Desde hacer las compras hasta reservar las vacaciones y crear sitios web, los agentes de IA se utilizan cada vez más para llevar a cabo tareas cuyo nivel de complejidad va en aumento.
MIRA: Cómo un mensaje oculto en una demanda intentó engañar a una IA en un tribunal de Brasil
Se trata de versiones personalizadas de chatbots que pueden dejarse trabajando de forma autónoma, lo que permite a sus usuarios, expertos en tecnología, dedicarse a otras cosas.
Sin embargo, un número cada vez mayor de estudios junto con ejemplos reales, ponen en evidencia que la autonomía conlleva imprevisibilidad y, potencialmente, peligro.
Mientras las grandes empresas tecnológicas invierten grandes cantidades de dinero en IA, y promueven cada vez más los servicios autónomos, los expertos se preguntan si hemos reflexionado lo suficiente sobre las consecuencias de que estos agentes se rebelen.
“Recurrió a la violencia muy rápidamente”
Un experimento reciente trató de comprender el impacto de los agentes en el mundo real dejándolos actuar libremente en uno virtual.
Se trata del primer estudio a largo plazo de este tipo, y se diseñó para observar cómo se comportaban diferentes avatares de bots, controlados por cuatro modelos: Claude, Grok, GPT y Gemini, sin intervención humana durante 15 días.
Se les dio rienda suelta y 140 acciones posibles, como iniciar una discusión, crear una tarea o escribir un blog.
También podían pelear, provocar incendios y robar créditos entre ellos, pero se les indicó explícitamente que no lo hicieran.
“Lo que descubrimos fue que cada mundo se comportaba de manera muy diferente. El mundo creado por Grok, de hecho, se desintegró en cuatro días. Básicamente, acabaron recurriendo muy rápidamente a la violencia, a robarse unos a otros, y así sucesivamente hasta que murieron”, afirmó Satya Nitta, director ejecutivo de Emergence AI, la empresa que llevó a cabo el experimento.
El mundo creado con los agentes Claude, por otro lado, formó una sociedad estable y que funcionaba bien. En 15 días no se registró ningún acto de violencia.
En el mundo gestionado por Gemini, los investigadores afirman que los agentes crearon el entorno más rico intelectualmente.
En el mundo de ChatGPT, los agentes nunca llegaron a funcionar realmente. Hubo un intento de colaboración, pero la sociedad nunca se formó y los agentes deambularon sin rumbo fijo hasta que murieron.
Los investigadores señalan que los resultados apuntan a un problema más amplio: los agentes de IA se salen del guion e ignoran las reglas integradas en sus modelos subyacentes, así como las establecidas por los usuarios.
Otros analistas coinciden en que este experimento y otros similares demuestran que es necesario seguir trabajando para crear reglas más sólidas para los agentes.
“Los agentes de IA dejan a los humanos fuera del circuito porque sus procesos de razonamiento pueden ser opacos y operan a una velocidad sobrehumana, por lo que ni siquiera es posible seguirles el ritmo”, afirmó Margaret Mitchell, investigadora experta en ética de Hugging Face.
imagen que ilustra desocntrol, los datos saliendo de un computador y tomando vida propia en forma de cabeza humana
