La empresa de inteligencia artificial Anthropic propuso el jueves una pausa global en el desarrollo de sistemas de IA cada vez más potentes, ante los indicios de que los modelos más recientes podrían escapar del control humano.
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
Otros actores de la industria y funcionarios de la Casa Blanca han rechazado la posición de esta empresa, al considerar que se enfoca en los peores escenarios y exagera los riesgos para frenar a sus rivales bajo el pretexto de la seguridad.
Aun así, la Casa Blanca ha reconocido el poder del modelo Mythos de la empresa, que no se ha puesto a disposición del público en general debido a sus capacidades de ciberseguridad y que actualmente solo se utiliza en un pequeño número de organizaciones seleccionadas.
MIRA: Microsoft anuncia su primer modelo de inteligencia artificial: MAI-Thinking-1
Los funcionarios estadounidenses y ejecutivos de las grandes tecnológicas han argumentado además que disminuir el desarrollo de la IA podría ceder una ventaja significativa a China.
Sin embargo, el presidente Donald Trump dijo que en su reciente visita a Pekín se discutió la posibilidad de cooperar con el gigante asiático en asuntos de seguridad de la IA.
Trump también firmó una orden ejecutiva esta semana que permitirá al gobierno realizar evaluaciones preliminares de los modelos de IA más poderosos de empresas estadounidenses antes de su lanzamiento.
Reducción del papel humano
Anthropic comparó el problema con los tratados de control de armas nucleares, pero señaló que sería aun más difícil de abordar, ya que el entrenamiento de la IA es mucho más fácil de ocultar que un silo de misiles, y la tentación de seguir adelante en silencio sería enorme.
MIRA: China crea un ‘DNI’ digital único para robots humanoides para asegurar su trazabilidad
La empresa dijo que planea reunir a funcionarios, científicos, grupos de defensa y empresas de IA competidoras en los próximos meses para determinar cómo podría funcionar un sistema de este tipo.
Según Anthropic, datos internos muestran que la IA acelera de manera dramática su propio desarrollo, lo que puede crear un ciclo de retroalimentación que eventualmente lleve a lo que los investigadores llaman “superación recursiva”.
Se trata de la idea de que un sistema de IA pueda enseñarse a sí mismo a ser más inteligente.
“Aún no hemos llegado a ese punto, y la superación recursiva no es inevitable”, señala el informe. Pero podría llegar antes de que la mayoría de los gobiernos e instituciones estén preparados para afrontarla, agregó.
“Las pruebas sugieren que el papel humano se está reduciendo en cada paso del proceso de desarrollo de la IA”, advirtió Anthropic.
