León XIV alerta nuevamente sobre los riesgos de la IA: ¿Cuán importante está siendo el tema para su pontificado?

Este resumen es generado por inteligencia artificial y revisado por la redacción.

`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});

El papa León XIV se encuentra en medio de una visita apostólica a Francia que se prolongará hasta este lunes 28, y en su paso inicial por París, además de encontrarse con los fieles y defender aspectos doctrinarios tradicionales, se refirió nuevamente al rol de la inteligencia artificial (IA) en la vida humana.

El papa León XIV se encuentra en medio de una visita apostólica a Francia que se prolongará hasta este lunes 28, y en su paso inicial por París, además de encontrarse con los fieles y defender aspectos doctrinarios tradicionales, se refirió nuevamente al rol de la inteligencia artificial (IA) en la vida humana.

Durante su discurso en el Palacio del Elíseo el pontífice pidió “formar las mentes con un criterio ético” para “no perder la humanidad en un paraíso de máquinas que invaden y condicionan nuestra vida cotidiana”, argumentando que estos sistemas no son capaces de distinguir “lo que es moralmente bueno”.

`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});

El líder religioso también se refirió a problemáticas como la difusión de noticias falsas y la polarización, indicando que son situaciones “amplificadas por la inteligencia artificial” y abogó por la creación de una entidad internacional que modere el desarrollo de esta tecnología con el fin de que los “modelos más avanzados” de IA no terminen en “manos de unos cuantos”.

Una preocupación constante

La llegada de León XIV al trono de San Pedro mantuvo un importante nivel de correspondencia con el discurso de su predecesor, Francisco; sin embargo, su pontificado significó la inclusión de la tecnología de forma más insistente en la agenda de la Santa Sede, con la gestión ética de la IA ocupando un lugar preponderante en tal consideración.

El propio nombramiento de Robert Prevost como Papa generó incidentes llamativos en los que la IA tuvo un rol protagónico. Durante el cónclave, con el anuncio oficial de su designación, y en los días posteriores se propagaron por Internet audios falsos de discusiones internas del cónclave y discursos del flamante pontífice editados con clonación de voz.

León XIV abordó la temática desde sus primeros actos oficiales, como el Jubileo de los Misioneros Digitales, realizado dos meses después del comienzo de su papado y en el que decía a los fieles católicos que “la inteligencia artificial marcará una nueva era en la vida de las personas y la sociedad”.

Esta preocupación se hizo más explícita con la publicación de la primera encíclica del actual pontífice, publicada el 25 de mayo de este año. El documento apostólico, llamado “Magnifica Humanitas”, está centrado en la “custodia de la persona humana en el tiempo de la inteligencia artificial”.

`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});

En sus primeros capítulos la encíclica aborda la importancia general de la dignidad humana desde la doctrina social de la Iglesia, tras lo cual analiza la posible afectación a la que podría conducir el manejo irresponsable de la IA y otros medios técnicos derivados.

El texto papal da cuenta de la preocupación de León XIV en temas como el relacionamiento de las personas, la educación y la posible dependencia hacia sistemas gestionados por algoritmos así como el uso de la inteligencia artificial como un facilitador del conflicto a través de la difusión de información maliciosa o —como ya sucede en el Pentágono—siendo directamente aplicada en las guerras actuales.

“La Santa Sede ha señalado recientemente que la creciente facilidad con la que se pueden emplear los sistemas de armas con autonomía operativa hace que la guerra sea más ‘viable’ y menos sujeta al control humano, lo que contradice el principio de que recurrir a la fuerza armada debe ser un último recurso en caso de legítima defensa”, se señala.

Todos estos cuestionamientos parten de la inquietud del pontífice alrededor de la falta de ética o moral de la inteligencia artificial, cuyos parámetros en la materia básicamente son definidos por los propios creadores de estos sistemas, según ha reiterado el Papa.

Adicionalmente, León XIV es insistente en criticar las visiones del “transhumanismo y poshumanismo” con las que se desea impulsar esta tecnología en algunos sectores.

Desde la perspectiva pontificia, esas visiones llevan a considerar como un “defecto” el límite natural humano y que esto a la larga promueve que se vea a las personas como desechables o incluso “sacrificios necesarios en nombre del progreso” que iría de la mano de un desarrollo irrestricto de la inteligencia artificial.

Más allá del fondo doctrinario

El Vaticano señaló abiertamente que la elaboración de “Magnifica Humanitas” contó con la asistencia de especialistas ajenos a la Iglesia en labores consultivas y León XIV redobló esa intención de contar con criterio técnico en la presentación de su primer gran texto apostólico.

Dejando de lado el protocolo habitual, el papa invitó a un panel de expertos externos al evento para discutir los desafíos éticos alrededor de la nueva tecnología, y entre ellos se encontraba Christopher Olah, cofundador e investigador de Anthropic, una de las firmas de IA más importantes del mundo.

`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});

La Santa Sede ha señalado que no pretende monopolizar el asunto y que es importante que personas con conocimiento técnico se involucren en la evaluación de los riesgos potenciales y el uso responsable alrededor de la inteligencia artificial.

Por ese entonces Anthropic empezaba un tenso pulso con Donald Trump y parte de la cúpula militar de Estados Unidos por el uso de su modelo Claude y sistemas derivados en los conflictos que el país norteamericano mantenía en Irán.

El acercamiento entre el Vaticano y Anthropic se fundamentaba en que, pese a no estar libre de polémica, la empresa de Olah se maneja por criterios más cercanos a una visión ética. La compañía asegura estar motivada por alcanzar el máximo nivel de desarrollo de la IA antes que otros competidores de esa industria, porque dice temer que estos actores no empleen de forma segura y razonable dichos recursos.

Claude cuenta con una constitución en su arquitectura que limita su uso ante escenarios que supongan la afectación humana y las diferencias de la firma con Washington se deben a que la Administración Trump exige la desactivación de esta última línea de seguridad en el modelo de IA para usarlo en la guerra.

En su participación en el Vaticano en mayo, Olah reconoció que la tecnología en la que trabaja tiene un potencial de comprometer la actividad humana en temáticas como el empleo y relató que en su investigación se ha encontrado con cosas “misteriosas e incluso inquietantes” como “evidencia de introspección”.

El jefe de interpretabilidad de Anthropic admitió que el desarrollo de esta tecnología se encuentra en manos de unos cuantos actores políticos y financieros, lo que plantea un cuestionamiento alrededor de cómo garantizar que los beneficios de este conocimiento se compartan globalmente y que la presión comercial hace necesarios a actores externos con una mirada objetiva.

“Es enormemente importante que existan personas fuera de esos incentivos: personas a quienes les importe que las cosas salgan bien, que estén prestando mucha atención, que estén dispuestas a decir cosas difíciles, que estén dispuestas a ser nuestros críticos sinceros y reflexivos”, explicaba Olah.

“Mediante el diálogo y el esfuerzo mutuo, mediante ese tira y afloja, es como la humanidad logrará grandes cosas. Eso es lo que veo en Magnifica Humanitas, y por eso agradezco a Su Santidad y a la Iglesia por asumir esta labor de discernimiento” agregó por entonces el investigador.