El Pentágono no ha ocultado sus esfuerzos por ampliar las capacidades de inteligencia artificial (IA) del Ejército de Estados Unidos, pero quiere hacerlo en sus propios términos. Desde que el gobierno de Donald Trump empezó a negociar el año pasado acuerdos con las empresas proveedoras de esa tecnología para que tengan más presencia en sistemas clasificados, Anthropic se convirtió en una piedra en el zapato para la Casa Blanca.
La empresa, con sede en San Francisco y que se consolidó como líder mundial con su chatbot Claude y su herramienta de codificación Claude Code, mostró pronto sus diferencias con el gobierno sobre los límites del uso de su tecnología en la guerra. Durante las negociaciones del contrato, Anthropic afirmó que no deseaba que su IA se utilizara para la vigilancia masiva de ciudadanos estadounidenses ni para crear armas letales autónomas que en el campo de batalla puedan decidir a quién matar o qué destruir.
Anthropic afirma que su nuevo modelo IA Mythos puede detectar fallos de seguridad hasta ahora desconocidos que han existido durante décadas en sistemas analizados tanto por expertos humanos como por herramientas automatizadas. (Photo by SEBASTIEN BOZON / AFP)
/ SEBASTIEN BOZON
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
El Departamento de Defensa, rebautizado como Departamento de Guerra, consideró esa posición como una afrenta. La negociación fracasó en febrero y dejó en el aire un contrato de 200 millones de dólares. Pero no solo eso. Días después de la ruptura, el jefe del Pentágono, Pete Hegseth, anunció que designaría a Anthropic como un “riesgo para la cadena de suministro”, una denominación que se suele usar contra las empresas extranjeras que representan una amenaza para la seguridad nacional.
EN CIFRAS
Importante crecimiento
- 30.000 millones de dólares de facturación anual alcanzó Anthropic, y podría multiplicar su tamaño por 80 este año, anunció la compañía en abril.
- 40.000 millones de dólares se comprometió a invertir Google en Anthropic. Amazon acordó invertir hasta 25.000 millones de dólares.
La compañía y su director ejecutivo, Dario Amodei, denunciaron al Pentágono ante la justicia por haberle dado esa designación, afirmando que tal acción del gobierno tiene motivaciones ideológicas para perjudicarla y pone en riesgo los derechos de libertad de expresión y debido proceso.
El caso volvió a la agenda esta semana con audiencias en Washington y se ha convertido en un proceso que podría sentar importantes precedentes sobre los límites del uso gubernamental de la IA.
Arma de guerra
La empresa ha asegurado que tiene la intención de superar este choque con el Pentágono, que ve a la inteligencia artificial como una prioridad. De hecho, el Departamento de Seguridad llegó a un acuerdo a inicios de mayo con gigantes tecnológicos como xAI, OpenAI y Google, que, a diferencia de Anthropic, aceptaron emplear su tecnología para “cualquier uso legal”.
El secretario de Defensa, Pete Hegseth, ha arremetido contra la empresa. (Foto: AFP)
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
Se trata de un duro golpe para la compañía de Amodei, que en su momento fue el único modelo de inteligencia artificial disponible en mercados clasificados, apunta el diario “The New York Times”. La situación es aún más compleja si se considera que el planeta vive conflictos simultáneos.
“Nuestros soldados jamás serán rehenes de los caprichos ideológicos de las grandes empresas de tecnología”.
“Ahora en el campo de batalla hay una enorme cantidad de data recolectada por sensores, satélites y aviones, y lo que quiere el Pentágono es usar la inteligencia artificial para encontrar métodos que permitan interpretar y ordenar esa data y tomar decisiones más rápido que el enemigo. También hay una segunda posible aplicación de esa tecnología y está centrada en interpretar toda la estrategia del enemigo para analizarla y doblegarla”, explica a El Comercio el analista internacional Roberto Heimovits.
Desde que fue fundada en el 2021 por exintegrantes de OpenAI, Anthropic se ha distanciado de sus competidoras al mostrar mayor prioridad a las garantías de seguridad y al manejo ético de la IA. Sin embargo, el debate sobre sus argumentos es muy amplio. Para Heimovits, mientras la compañía podría tener ventaja al posicionarse en contra de la vigilancia masiva de ciudadanos pues ello supondría invadir su privacidad hasta límites inconstitucionales, en el caso de las armas totalmente autónomas la complejidad es mayor.
“Nos preocupan las excepciones relativas a las armas totalmente autónomas y la vigilancia masiva interna”.
“El problema es la competencia internacional. El Pentágono podría decir: ‘Si nosotros no tenemos esta tecnología, otros –como Rusia, China o Corea del Norte– la van a tener’. Es un debate largo e importante. Pensemos en otros tipos de armas que han sido prohibidas, como las químicas o las biológicas. Si las potencias que tienen la tecnología para desarrollar armamento autónomo no se ponen de acuerdo, podría generarse una carrera sin límites y eso podría salirse totalmente de control”, apunta el experto.
La disputa entre Anthropic y el Pentágono también tendrá impacto en la posición de los jugadores de la IA, con OpenAI como uno de los mayores beneficiados del conflicto, apunta Jesús Véliz, periodista de tecnología e innovación, en su canal de You Tube. “Anthropic puede hablar de asuntos éticos y principios, pero viéndose presionada por el gobierno, ello le va a generar problemas. El hecho de ser considerado un agente que pone en riesgo la cadena de suministro le podría provocar observaciones de socios y sugerencias del gobierno para que se deje de trabajar con esa compañía”, dice el especialista.
‘Magnifica Humanitas’
León XIV y su encíclica dedicada a la IA
El papa León XIV publicará este lunes 25 su primera encíclica y tratará sobre «la protección de la persona humana en la era de la inteligencia artificial». Bajo el nombre “Magnifica humanitas”, el pontífice presentará el documento en un acto en el que participará Christopher Olah, cofundador de Anthropic y director de investigación sobre la interpretabilidad de la IA.
El Papa ha convertido la IA en una prioridad de su joven pontificado y ha afirmado estar profundamente preocupado por el uso de esa tecnología para fines bélicos, por lo que ha pedido una mejor supervisión humana.
En una presentación inédita, León XIV reunirá a líderes prominentes para un lanzamiento formal en el auditorio principal del Vaticano. Estarán dos cardenales de mucho peso: Víctor Manuel Fernández, responsable de doctrina, y Michael Czerny, responsable de desarrollo. También asistirán las teólogas Anna Rowlands y Leocadie Lushombo.
