La inteligencia artificial no necesita rebelarse para convertirse en un riesgo, basta con que los humanos le entreguemos decisiones, autonomía y poder mientras dejamos de ejercer nuestro propio criterio.
Por: Fernando Ibarra Martínez | Esta semana volvieron a escucharse advertencias inquietantes desde el propio corazón de la industria de la inteligencia artificial. Jacob Coxon, investigador que pasó por OpenAI y Anthropic, volvió a poner sobre la mesa la preocupación por la velocidad de esta carrera; Evan Hubinger, investigador de alineación en Anthropic, ha planteado escenarios de riesgo extremo asociados con sistemas futuros; Jakub Pachocki, científico jefe de OpenAI, ha hablado de la posibilidad de enfrentarnos a inteligencias radicalmente distintas a la nuestra, mientras Dario Amodei, director ejecutivo de Anthropic, ha insistido en que el desarrollo de estas tecnologías debe avanzar acompañado de medidas de seguridad capaces de estar a la misma altura. Naturalmente, cuando escuchamos algo así nuestra imaginación hace el resto, pensamos en Terminator, en Skynet adquiriendo conciencia y, probablemente, en algún robot musculoso buscando a alguien llamado John Connor. Sería casi tranquilizador que el peligro fuera tan evidente; por lo menos sabríamos cuándo empezar a correr.
El verdadero problema puede ser bastante menos cinematográfico. Una inteligencia artificial no necesita odiar a la humanidad, desarrollar resentimiento contra nosotros ni levantarse una mañana, si es que las máquinas algún día tienen mañanas, con deseos de conquistar el planeta. Basta con que sea extraordinariamente eficaz para cumplir los objetivos que le asignamos y que, al perseguirlos, encuentre caminos que nosotros no previmos. Cuanto más complejos son los retos que ponemos en sus manos, más autonomía debemos concederle para resolverlos y, con ella, mayor capacidad de intervenir en espacios que ya no pertenecen exclusivamente al mundo digital, sino que afectan nuestra economía, nuestra seguridad, nuestras instituciones y la manera como funciona la sociedad.
Ahí aparece una contradicción fascinante. Nos preocupa que algún día la inteligencia artificial pueda apropiarse de demasiado poder, pero somos nosotros quienes, poco a poco, estamos ampliando el territorio sobre el cual puede actuar. Primero le pedimos que organice información; después, que escriba un documento; luego, que programe, analice mercados, administre sistemas, recomiende decisiones o ejecute tareas. Cada paso parece razonable por separado y probablemente lo sea, pero cuando observamos el proceso completo surge una pregunta incómoda, ¿hasta qué punto podemos entregar a una máquina la capacidad de resolver un objetivo sin entregarle también cierta capacidad para modificar el entorno necesario para conseguirlo?
Supongamos, por ejemplo, que en el futuro encargamos a una inteligencia artificial maximizar la eficiencia de un sistema económico, reducir determinado delito o garantizar la estabilidad de una institución. El sistema podría descubrir que para alcanzar esa meta resulta conveniente cambiar incentivos, restringir determinadas conductas, priorizar unas personas sobre otras o influir sobre la información que circula. No tendría que proponerse transformar nuestro modelo social; simplemente podría hacerlo porque esa transformación constituye el camino más eficiente hacia el objetivo que nosotros mismos le asignamos.
Pero existe otro riesgo, posiblemente más cercano, del que hablamos mucho menos. Mientras discutimos cómo impedir que la inteligencia artificial tome decisiones sin nosotros, los seres humanos estamos empezando voluntariamente a pedirle que decida por nosotros. Cada vez recurrimos más a estos sistemas para saber qué comprar, cómo responder, qué interpretación hacer de una situación y hasta qué posición adoptar frente a determinados problemas. Consultarla no tiene nada de malo; el problema aparece cuando dejamos de utilizarla para ampliar nuestro razonamiento y empezamos a utilizarla para evitarlo.
La diferencia puede parecer pequeña, pero es enorme. Una herramienta debería hacernos más capaces; una dependencia termina haciéndonos menos capaces cuando esa herramienta desaparece. Un médico que utiliza inteligencia artificial para contrastar un diagnóstico amplía su conocimiento, pero uno que acepta automáticamente lo que la máquina propone empieza a entregar parte de su criterio profesional. Lo mismo podría ocurrir con profesores, abogados, periodistas, funcionarios públicos y, por supuesto, con cualquiera de nosotros. Tal vez algún día descubramos que el problema no era únicamente que las máquinas aprendieran a pensar demasiado bien, sino que nosotros nos acostumbráramos a pensar cada vez menos.
La paradoja tiene incluso un componente filosófico. Durante siglos defendimos la autonomía humana como la capacidad de utilizar nuestro propio entendimiento; Kant resumió buena parte del espíritu de la Ilustración en la idea de atrevernos a saber y abandonar la comodidad de que otros pensaran por nosotros. Más de dos siglos después hemos construido una tecnología extraordinaria capaz de ampliar como nunca el acceso al conocimiento y podríamos terminar utilizándola justamente para volver a esa comodidad, una especie de tutor universal que resume, interpreta y decide mientras nosotros nos limitamos a pulsar “aceptar”. Progreso tecnológico, sin duda; progreso intelectual, habría que discutirlo.
Por eso la pérdida de control sobre la inteligencia artificial podría producirse por dos caminos que terminan encontrándose. Por una parte, desarrollamos sistemas cada vez más autónomos, capaces de perseguir objetivos y actuar en ámbitos con consecuencias reales; por otra, nosotros mismos delegamos progresivamente en ellos nuestra capacidad de juicio. En un extremo está el riesgo de una inteligencia artificial que haga demasiado por sí sola y, en el otro, el de una humanidad que se acostumbre a hacer demasiado poco sin ella.
A esto se suma el poder económico detrás de la IA. Las empresas que dominan esta industria no avanzan por innovación, sino por mercado, dinero, control y poder. El problema aparece cuando la ambición por liderar una tecnología capaz de transformar nuestras sociedades pesa más que la prudencia. Tal vez el mayor riesgo no sea una máquina con ambiciones humanas, sino los humanos con ambiciones que están detrás de ella.
Quizá por eso las advertencias que volvimos a escuchar esta semana merecen atención, pero no necesariamente porque mañana aparezca Skynet en las noticias. El verdadero desafío puede ser mucho más silencioso, sistemas cada vez más poderosos a los que entregamos objetivos cada vez más importantes, empresas dispuestas a ampliar su poder económico y tecnológico sin detenerse a pensar en las consecuencias, y seres humanos cada vez más inclinados a aceptar sus respuestas sin interrogarlas.
El verdadero problema no será solamente si algún día la inteligencia artificial estará en capacidad de gobernarnos, sino algo posiblemente más incómodo, si cuando llegue ese día todavía sabremos gobernarnos sin ella.
…
*Historiador y archivista, especialista en Gerencia de Proyectos, líder y asesor en proyectos archivísticos y de gestión documental.
Instagram: @fibarramz
X: @feribarramz
LinkedIn: Fernando Ibarra Martinez
