Este resumen es generado por inteligencia artificial y revisado por la redacción.
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
El investigador Jacob Coxon decidió dejar Anthropic y hacer pública una advertencia que rápidamente generó preocupación dentro y fuera de la industria tecnológica. El investigador británico, que durante los últimos tres años trabajó en investigación de preentrenamiento tanto en OpenAI como en Anthropic, afirmó que ambas compañías “no están actuando de manera responsable” y que están avanzando hacia una inteligencia artificial que podría terminar superando ampliamente las capacidades humanas.
En un mensaje publicado en X tras presentar su renuncia, Coxon sostuvo que los laboratorios de IA están inmersos en una carrera para desarrollar una superinteligencia auto-mejorante. Según su planteamiento, estos sistemas podrían llegar a hackear otros sistemas, adquirir recursos y capacidades de manera autónoma y mejorar sus propias habilidades a una velocidad difícil de controlar.
Su advertencia más extrema es que algunos investigadores y ejecutivos de la industria creen que la IA podría provocar la desaparición de la humanidad antes de que termine esta década. Coxon considera que el problema no es únicamente la potencia que puedan alcanzar los futuros modelos, sino que las empresas estén intentando llegar a ese escenario mientras todavía existen dudas sobre cómo garantizar que una inteligencia artificial extremadamente avanzada permanezca alineada con los intereses humanos.
Por ello, algunos congresistas y senadores estadounidenses, tales como Greg Casar, Lori Trahan y Bernie Sanders, señalaron que estos modelos de desarrollo deben ser supervisados o bien pausados para evitar la superinteligencia, según documenta la agencia EFE.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Sin embargo, la salida de Coxon no es el primer antecedente de este tipo dentro de Anthropic. En febrero, Mrinank Sharma, quien dirigía el equipo de investigación de salvaguardas de la compañía, también dejó su puesto. Su mensaje fue diferente: en lugar de concentrarse exclusivamente en una eventual superinteligencia, Sharma afirmó que “el mundo está en peligro” y vinculó los desafíos de la IA con otras crisis que se desarrollan simultáneamente. Durante su paso por Anthropic trabajó en seguridad frente a riesgos como el bioterrorismo asistido por IA, transparencia y comportamiento de los modelos.
Ambas salidas tienen, por tanto, un punto de encuentro: investigadores que trabajaban precisamente en el desarrollo o la seguridad de estos sistemas decidieron apartarse mientras planteaban dudas sobre el rumbo de la industria. Pero sus advertencias no son idénticas. Coxon cuestiona directamente la carrera hacia una superinteligencia; Sharma plantea un problema ético y social más amplio sobre la dificultad de hacer que los valores humanos prevalezcan frente a las presiones de la tecnología.
Anthropic, su acercamiento al papa León XIV y la disputa con Trump
Anthropic es una empresa estadounidense de investigación y desarrollo de inteligencia artificial, enfocada en crear sistemas de IA seguros, especialmente para el sector corporativo y financiero. La compañía fue fundada por antiguos investigadores de OpenAI y es dirigida por Dario Amodei desde el 2021.
Según señala Anthropic, la empresa construyó buena parte de su identidad alrededor de la seguridad de la IA y del desarrollo de sistemas que puedan ser controlados y utilizados de manera responsable. Sin embargo, existen diferentes medios especializados que la ubican en la primera línea en la carrera por el dominio de la inteligencia artificial.
Dario Amodei, cofundador y CEO de Anthropic, advirtió que la aparición de riesgos vinculados a la ciberseguridad, la posible creación de armas biológicas y la autonomía creciente de los sistemas IA obliga a los gobiernos globales a pasar “de la transparencia a una regulación más seria y vinculante”. (Foto de JULIEN DE ROSA / AFP)
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
Pese a ello, Anthropic mantiene una Responsible Scaling Policy, un marco que establece medidas de seguridad conforme aumentan las capacidades de sus modelos y reconoce que los sistemas más avanzados pueden generar riesgos catastróficos.
Ahí aparece la principal contradicción que deja la renuncia de Coxon: una empresa que sostiene públicamente que la seguridad debe acompañar el desarrollo de la IA también participa en la carrera por construir modelos cada vez más capaces. La pregunta es si ambas cosas pueden mantenerse al mismo ritmo.
Más allá de las advertencias, Anthropic ha buscado trasladar la discusión de la ética en la inteligencia Artificial fuera de Silicon Valley. El 25 de mayo, Christopher Olah, cofundador de Anthropic, participó en el Vaticano junto al papa León XIV en la presentación de Magnifica Humanitas, la primera encíclica del Pontífice, dedicada a la protección de la persona humana en la era de la inteligencia artificial. El Vaticano confirmó oficialmente la participación de Olah como uno de los ponentes del lanzamiento.
Co-founder of US artificial intelligence (AI) company Anthropic, Christopher Olah, shakes hands with Pope Leo XIV before the presentation of the first Encyclical Letter �Magnifica Humanitas�, focused on the rise of artificial intelligence, in The Vatican on May 25, 2026. (Photo by Alberto PIZZOLI / AFP)
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
Otro precedente que colocó a Anthropic en medio de la agenda pública mundial fue la disputa que tuvo con el gobierno de Trump. Según la BBC, el Pentágono exigió que Anthropic entregara acceso irrestricto a su tecnnología para “todos los usos legales”, pero la firma tecnologíca se negó.
En respuesta, Donald Trump ordenó a todas las agencias federales que dejen de usar Anthropic, asimismo escribió en su plataforma Truth Social que ”Estados Unidos nunca permitirá que una empresa de izquierda radical y woke dicte cómo combate y gana guerras nuestro gran ejército».
¿Qué tan real es el peligro advertido por Coxon?
Las advertencias de Jacob Coxon encuentran un primer matiz entre los especialistas consultados. Para Wester Zela, director de la Maestría en Inteligencia Artificial de la UNI, el desarrollo de sistemas capaces de aprender y mejorar a partir de sus propias experiencias no es una idea nueva. Técnicas de aprendizaje por refuerzo y otros métodos de aprendizaje automático llevan años buscando que los modelos mejoren su desempeño a partir de la interacción con su entorno.
El problema aparece cuando esta capacidad se lleva a sistemas mucho más generales y autónomos. Zela explica que una eventual superinteligencia podría resolver problemas de una complejidad muy superior a la humana, aunque advierte que todavía no existe una definición objetiva que permita establecer cuándo una IA ha alcanzado ese nivel.
This photograph shows the logo of the AI assistant «Claude Mythos» built by the US artificial intelligence safety and research company Anthropic displayed on a smartphone’s screen in Brussels on June 10, 2026. (Photo by Nicolas TUCAT / AFP)
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
Por eso, el especialista cuestiona especialmente la precisión de la advertencia de Coxon sobre el 2030. “Nadie puede predecir el futuro”, señala Zela, quien considera que este tipo de pronósticos puede terminar mezclando preocupaciones reales con marketing, publicidad y búsqueda de atención. A su juicio, las predicciones tecnológicas extremadamente pesimistas deben analizarse con cautela.
Sin embargo, esto no significa que el especialista descarte los riesgos. Zela considera que la inteligencia artificial ya puede ser utilizada para clonar voces, modificar imágenes, realizar estafas y cometer otros delitos. En ese escenario, la amenaza inmediata no necesariamente provendría de una máquina que desarrolle por sí sola la intención de destruir a la humanidad, sino de personas que utilicen sistemas cada vez más capaces con objetivos perjudiciales.
This photograph shows the logo of the US artificial intelligence safety and research company Anthropic displayed on a smartphone’s screen in Brussels on June 10, 2026. (Photo by Nicolas TUCAT / AFP)
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
La posición de Manuel Santillán, investigador y docente de la Universidad de Lima, introduce otra dimensión. Para él, el mensaje de Coxon y la salida anterior de Sharma deben entenderse como una advertencia sobre el proceso mediante el cual se está construyendo la IA. “No es una declaración fatalista de que el mundo se va a acabar”, explica, sino una llamada de atención sobre la necesidad de incorporar mayores controles y protocolos de seguridad.
La diferencia entre ambos especialistas resulta importante. Mientras Zela pone en duda que pueda establecerse hoy una fecha como el 2030 para una eventual catástrofe, Santillán considera que el debate de fondo no depende de acertar una fecha, sino de preguntarse si la velocidad de desarrollo está superando la capacidad de control de quienes crean estos sistemas.
Y allí las dos renuncias adquieren mayor relevancia. Sharma, que trabajaba precisamente en salvaguardas, habló de una crisis ética más amplia. Coxon, desde su experiencia en investigación de preentrenamiento, cuestionó directamente la carrera hacia una superinteligencia. Sus argumentos no son idénticos, pero coinciden en poner bajo discusión la distancia entre el desarrollo de capacidades y la construcción de mecanismos capaces de controlarlas.
Santillán considera que esa carrera tampoco puede analizarse únicamente desde el ámbito empresarial. La IA se ha convertido en un instrumento de competencia entre grandes potencias por sus aplicaciones económicas, científicas y militares. El investigador recuerda que ya existen sistemas autónomos capaces de continuar determinadas operaciones militares sin recibir instrucciones directas de un operador humano.
