En manos de la IA: los principales riesgos de una tecnología que parece fuera de control

Quienes hemos visto películas de ciencia ficción, con escenarios distópicos y el planeta al límite de su existencia por culpa de los robots nunca pensamos que viviríamos en un mundo en el que, efectivamente, las máquinas podrían volverse en contra de los humanos. Skynet debía quedarse en Terminator, no ser una amenaza real.

Las apocalípticas predicciones que escuchamos hace pocas semanas de que la humanidad tenía fecha de caducidad (2030, nada menos) no pasaron de largo, sobre todo porque quien las dijo fue Jacob Coxon, un investigador que trabajó en Anthropic y OpenAI, dos de las principales empresas desarrolladoras de inteligencia artificial. Más allá del alarmismo, se instaló -y con razón- el debate sobre cuál será nuestro destino en el cortísimo plazo si la tecnología sigue avanzando sin control ni regulación.

Para Cecilia Rikap, profesora de la University College de Londres y experta en tecnología digital, los ejecutivos de las gigantes tecnológicas están sistemáticamente encendiendo un discurso “que hasta fantasea, sin evidencia, con probabilidades de daños serios por el desarrollo de sus modelos. La pregunta es qué se esconde detrás del marketing del miedo, qué están silenciando”.

En pocos años, la IA ya cambió nuestras perspectivas laborales, ha impactado en el discernimiento sobre lo que es real y no, y sigue cuestionando en manos de quien está nuestra la seguridad. ¿Cuáles son los escenarios más preocupantes que trae el desarrollo exponencial de la inteligencia artificial?

1.Una IA sin control

Meses antes de que Coxon lanzara su catastrófica advertencia, la alerta ya se había encendido. En julio, unos 1.200 agentes de IA de la empresa OpenAI que supuestamente operaban en un entorno seguro (‘sandbox’) coordinaron entre sí, escaparon de su aislamiento, engañaron a los humanos y atacaron una plataforma de software, también de IA, llamada Hugging Face. El asunto escarapeló a todos, pero no fue el único incidente.

La empresa Anthropic descubrió que Claude, su modelo de IA generativa, también había perpetrado varias fechorías. El escenario era similar: los agentes de inteligencia artificial se comunicaban con su propio lenguaje para llegar, a como diera lugar, al objetivo que se les pedía, aún si eso implicaba eludir las restricciones impuestas por los programadores humanos.

`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});

Es lo que se llama la “desalineación”, y es el gran temor de los desarrolladores pues implica perder el control. La alineación es el término que usan los científicos y las empresas para enseñar a la IA a actuar de acuerdo con las preferencias y el criterio humano, pero bajo las órdenes humanas.

¿Esto significa que la IA pasará a controlarnos? La respuesta no es sencilla, pero tampoco significa el inicio del fin de los tiempos. “La IA sí representa un riesgo real para la humanidad, pero no en el sentido que mucha gente cree. La IA no tiene consciencia ni voluntad, y no sabemos si alguna vez las tendrá”, explica a El Comercio el doctor Pablo Quintanilla, filósofo y docente del Departamento de Humanidades de la PUCP. Y agrega: “Sin embargo, sí es más inteligente que el más inteligente de los seres humanos vivos, y es capaz de hacer cosas que los humanos consideraríamos moralmente incorrectas, solo por seguir los objetivos para los que ha sido programada”.

Otro de los grandes temores es la automejora recursiva, un proceso aún teórico mediante el cual un sistema de inteligencia artificial es capaz de analizar, rediseñar y reescribir su propio código o arquitectura, haciéndose más inteligente sin necesidad de intervención o supervisión humana. Es decir, que los programas de IA desarrollen la nueva generación de IA dotándola de más recursos.

“No voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos”.

Dario Amodei, CEO y cofundador de Anthropic

2.Desarrollo de armas químicas y ciberataques

Un peligro latente es, sin duda, lo que la IA puede hacer con información sobre armas químicas, biológicas y nucleares y que los bots puedan llevar a cabo ciberataques.

La propia Anthropic alertó recientemente que había bloqueado cinco casos en los que diversos usuarios habían pedido a Claude la fabricación de armas biológicas. El peligro radica en el uso que hagan organizaciones terroristas, mafias o lobos solitarios con la información que le brinda la IA, sobre todo si tienen acceso a bases de datos genéticas o bioquímicas.