El debate sobre los riesgos de la inteligencia artificial (IA) ha alcanzado ya un interés mundial. Tal es así que este lunes 14 la Organización de Naciones Unidas (ONU) solicitó en un comunicado a los países y las empresas atender con urgencia este asunto, y que establezcan mecanismos de control ya que “todos los derechos humanos están amenazados”, incluso el derecho a la vida.
“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad”, dijo Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos.
Esta preocupación se acentuó desde que Jacob Coxon, exinvestigador de Anthropic, denuciara que la “IA podría matarnos a todos”. Esa fue una de las causas para renunciar a su trabajo en la empresa desarrolladora de IA.
Varias voces confirmaron esta posibilidad.
Incluso los directores de las firmas tecnológicas mostraron su preocupación por los efectos de lo que vienen creando. Entre ellos están Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Elon Musk, de SpaceXAI. ¿La propuesta? Desacelerar el desarrollo de la IA.
“Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente”, dijo Amodei en un ensayo publicado el último fin de semana.
Pero ya algunas figuras políticas, como Donald Trump, vienen mostrando su oposición, calificando la idea como “una conspiración enfermiza”.
Donald Trump se opone a establer un marco regulatorio de la inteligencia artificial. (Foto: AFP)
/ BRENDAN SMIALOWSKI
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
“El único control o mecanismo de seguridad que necesita la IA es un presidente fuerte e inteligente, y Estados Unidos lo tiene”, aseguró, fiel a su estilo, desde su cuenta de Truth Social.
Así que, aquí nos planteamos algunos puntos para entender qué viene pasando con la inteligencia artificial.
¿Realmente está en peligro la humanidad?
Este es uno de los temas más polémicos.
La alerta de Coxon ha desatado numerosas teorías en redes sociales, cada una más extrema que otra, incluso recordando a películas como Terminator.
Para Manuel Santillán, investigador de la Universidad de Lima, el peligro de la IA no es directo, y descartó que por sí misma vaya a eliminar a las personas.
“El riesgo que observo es más bien indirecto y está relacionado con la creciente incorporación de la IA en sistemas y procesos que funcionan de manera cada vez más rápida, eficiente y automatizada”, indica en comunicación con El Comercio.
Plantea, por ejemplo, el uso de la IA en la gestión de la energía y el suministro energético. En esa situación, un sabotaje o mal control del sistema “podría provocar la interrupción de servicios esenciales, desactivar sistemas de monitoreo ciudadano o afectar el suministro eléctrico de infraestructuras críticas”, y hablamos de hospitales, aeropuertos, medios de comunicación, etc.
Además…
La era de los agentes
Hoy vivimos la era de la inteligencia artificial agéntica. Los agentes, que son modelos LLM (Large Language Model) que comprenden, resumen y generan, pueden interactuar con otros agentes de IA para realizar una tarea. «El problema es que muchas veces alucinan, entregan contenido que no es. Entonces, puede entregarte cualquier cosa si no está bien diseñado, si la arquitectura del agente no está bien construida», señala Wester Zela. A esto se suma el riesgo de la autonomía que se le pueda dar.
Para Wester Zela, doctor en inteligencia artificial, es preferible atender los problemas concretos de la inteligencia artificial, más allá de pronósticos como la destrucción de la humanidad.
En ese sentido, recordó la prueba PISA y la calificación negativa para los estudiantes a nivel mundial.
“¿Qué están haciendo las autoridades? Porque dentro del informe se hace referencia a que [el resultado] tiene que ver con el uso de la tecnología, de la inteligencia artificial, que están reduciendo la capacidad cognitiva de los estudiantes. Eso es algo real, es algo tangible que ya se está midiendo», cuestiona en diálogo con este Diario.
En cambio, considera que la advertencia de Coxon no es algo novedoso y que la inteligencia artificial ya aprende por sí misma desde hace varios años.
Además, Zela advierte otro punto: el márketing.
Cuando la amenaza y el márketing se juntan
Ambos especialistas coinciden en que existe un factor de especulación.
Hay que recordar que meses atrás se difundieron ‘hackeos autónomos’. Primero, con Anthropic y su modelo Mythos. Luego, agentes autónomos de OpenAI realizaron un ciberataque a la plataforma Hugging Face.
Aunque estaban en un entorno de prueba, despertó temor de lo que podría causar.
“Algunos de estos anuncios deben entenderse dentro de estrategias empresariales orientadas a generar expectativas, posicionarse frente a una eventual salida a bolsa, atraer inversiones o fortalecer la valoración de determinadas compañías”, subraya Santillán.
Nuevas alarmas sobre los riesgos de la inteligencia artificial también podría ser estrategia de marketing de las empresas tecnológicas, señalan. (Foto: EFE)
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
Lo que comunicarían las empresas es que están a la vanguardia con una tecnología más poderosa.
“En el fondo intentan decirnos que el modelo que están haciendo es el mejor de todos”, advierte Zela.
De esa manera atraen inversores, aunque se pierda mucho dinero. Agrega que este tipo de firmas tecnológicas “pierden millones de dólares todos los días, y viven básicamente de la promesa de que en algún momento van a ganar dinero resolviendo los problemas de muchas empresas”.
Además, está la disputa entre los modelos de IA de código abierto, seguido por empresas chinas, y el código cerrado de las empresas estadounidenses. Un debate aparte.
¿Puede desacelerarse la IA?
La propuesta de varios empresarios no ha sentado bien a Donald Trump, quien calificó esto como “una conspiración enfermiza”.
El desarrollo continuo y acelerado de la IA se debe en parte a la competencia. Por eso, indica Santillán que “para que ocurra tendría que existir un acuerdo suficientemente amplio entre quienes están desarrollando estas tecnologías”.
“De momento observo con cierto escepticismo que esto realmente pueda producirse, porque existen importantes intereses económicos y geopolíticos que apuntan precisamente en la dirección contraria”, resalta.
Según lo que se conoce, la concertación para desacelerar viene luego de que OpenAI y Anthropic notaran que sistemas de IA en fase experimental tenían facilidad para acceder a internet y atacar sitios web y plataformas.
Para Zela, “de alguna forma es incongruente la propuesta” ya que Estados Unidos viene invirtiendo en la creación de centros de datos y en mantener el liderazgo mundial.
Y, claro, el liderazgo es frente a China.
“Entre líneas, lo que están diciendo es ‘paremos el avance de la inteligencia artificial’ porque, debido a que se está demostrando que empresas chinas están llegando a tener los mismos resultados que empresas de Estados Unidos, a una fracción del costo, hay un riesgo para ellos”, puntualiza.
EE.UU. vs. China: más que una rivalidad por la IA
Pero hablar de IA ya no es solo hablar sobre el desarrollo de una tecnología. Hay un componente político que el internacionalista Jorge Chávez Mazuelos advierte en dos tipos de tensiones.
La primera es de tipo interna, en Estados Unidos, donde las empresas más importantes buscan ponerse de acuerdo para ralentizar ese desarrollo, antes de que lo haga el gobierno o el Congreso.
Estados Unidos y China mantienen una competencia por el mejor modelo de inteligencia artificial. (Foto: generada con IA)
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
“Lo que ellos quisieran es mantener el control del proceso de regulación, o sea, generar una política de autorregulación”, apunta a este Diario. Y es que ya hay voces como la del senador estadounidense Bernie Sanders, quien exige pausar e intervenir en las mismas empresas.
Incluso, en una columna de opinión planteó que “la IA es un bien público”, lo que seguramente no agrada a los multimillonarios de la IA.
“La inteligencia artificial no surgió de la nada. Los datos y el lenguaje que utilizan las herramientas de IA generativa no aparecieron de la nada en la mente de Sam Altman ni en la imaginación de Elon Musk. La IA se basa en nuestra inteligencia colectiva”, indicó Sanders en The New York Times.
El otro punto que advierte Chávez Mazuelos es externo, y tiene que ver con China.
“Trump interpreta la competencia estratégica con China en el campo científico y tecnológico también como un juego de suma cero. Entonces, si Estados Unidos deja de avanzar en el desarrollo de la IA, China lo hará a expensas de Estados Unidos y eso va a fortalecer su poder relativo”, indica el docente de la Academia Diplomática del Perú.
¿Y qué piensa China?
Por lo pronto, informa la agencia AFP que el ministro de Seguridad del Estado, Chen Yixin, ha advertido el riesgo de seguridad de la IA ya que potencias extranjeras podrían utilizarla para amenazar el orden social.
Esto se entiende, indica Chávez Mazuelos, porque “China vincula la cuestión de la seguridad nacional a la seguridad política, a la estabilidad del Partido Comunista”.
¿Hay aternativas para la IA?
Para Santillán, una iniciativa internacional podría conectarse con los marcos que ya existen.
Plantea algunos trabajos previos de la UNESCO, las Naciones Unidas y la Unión Europea, “y buscar a partir de ellos una articulación internacional entre todos los actores involucrados en el desarrollo tecnológico”.
“El objetivo debería ser establecer un marco normativo y ético de carácter internacional y multidisciplinario para una tecnología que ya está impactando”, comenta.
Y esa es también la línea de Volker Türk, el alto funcionario de la ONU que pidió “movilizarse urgentemente en el marco de instancias multilaterales”.
Pero a nivel político la situación es otra.
Señala Chávez Mazuelos que, si se entendiera que el desarrollo de la IA puede comprometer la paz y la seguridad internacional, el Consejo de Seguridad de la ONU tendría que intervenir.
“Pero lo veo difícil porque en el Consejo de Seguridad están dos potencias que son las que tienen mayor desarrollo en este campo [Estados Unidos y China]”, indica. Además, si se dialoga sería en torno a seguridad de conflictos armados, guerra electrónica y espionaje.
Otro punto de debate lo podrían protagonizar Donald Trump y Xi Jinping, presidente de China, quien visitará Estados Unidos a fines de mes. Aun así, para el analista internacional ambos mandatarios “pueden conversar, pero es difícil que lleguen a algún tipo de consenso” en un tema tan espinoso.
