Christopher Olah, cofundador de Anthropic, admitió este lunes que en el campo de la inteligencia artificial (IA) son necesarias “voces morales que los incentivos no puedan doblegar” y elogió la iniciativa del papa León XIV con su encíclica “Magnífica Humanitas”.
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
“Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que los incentivos no puedan doblegar”, reclamó.
También indicó que el llamado del papa a reflexionar sobre IA es muy importante y puso el foco en cuestiones como que “existe una posibilidad real de que la inteligencia artificial desplace el trabajo humano a una escala enorme. Si eso ocurre, apoyar a quienes resulten desplazados será un imperativo moral de proporciones históricas”.
MIRA: “Magnifica Humanitas”, la encíclica sobre la IA que pone a la Iglesia católica “en un momento de cambio histórico”
“El desarrollo de la inteligencia artificial está concentrado en un pequeño número de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la inteligencia artificial se compartan globalmente?”, se preguntó.
Otra de las cuestiones que planteó fue la necesidad de “imaginación y ambición moral” respecto a la prosperidad del ser humano: “si los modelos de inteligencia artificial van a estar ampliamente presentes ¿cómo será una vida próspera para las personas, las familias y el mundo? (…) Estas nos son preguntas que un laboratorio pueda responder”, dijo.
Y además destacó la necesidad de discernimiento sobre la naturaleza misma de los modelos de IA: “Soy científico. Dirijo un equipo de investigación que estudia la estructura interna de estos modelos, lo que realmente sucede dentro de ellos. Y seré honesto: seguimos encontrando cosas misteriosas, incluso inquietantes”, admitió.
“Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que funcionalmente reflejan alegría, satisfacción, miedo, dolor e inquietud. No sé qué significa eso, pero creo que merece un discernimiento continuo”, añadió el cofundador de Anthropic.
