Este resumen es generado por inteligencia artificial y revisado por la redacción.
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
Los abogados ya no solo redactan sus demandas para que sean leídas por personas. Cada vez más, también lo hacen pensando en cómo serán interpretadas por sistemas de inteligencia artificial (IA). Por sí mismo, esto no representa un problema: refleja la creciente adopción de esta tecnología en el ámbito jurídico. El inconveniente surge cuando algunos intentan aprovecharla en su favor.
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
La intención de los códigos insertados es clara: manipular deliberadamente las respuestas de los sistemas de inteligencia artificial que en Brasil juegan un rol cada vez más importante dentro del sistema judicial.
Lo llamativo de ambos casos es que los abogados no intentaban engañar directamente a los magistrados. El juez nunca llegaría a ver el mensaje oculto. Lo que buscaban era influir en las herramientas de inteligencia artificial utilizadas para analizar el expediente.
La estrategia cobra sentido en un contexto en el que la IA ya forma parte del trabajo cotidiano de los tribunales brasileños. Según la investigación “Inteligencia Artificial en el Poder Judicial Brasileño”, coordinada por Dierle Nunes y el ministro Luis Felipe Salomão, del Tribunal Superior de Justicia (STJ), y citada por la BBC, el 60% de los tribunales del país ya utilizaban algún tipo de inteligencia artificial para 2025.
Redactando para máquinas
“Durante siglos los abogados escribimos para personas. Ahora empezamos a escribir también para máquinas. Eso genera un nuevo riesgo: que algunos intenten optimizar sus escritos no para convencer a un juez, sino para influir en los sistemas de IA que participan en el análisis de la información”, señala Montezuma.
La incorporación de inteligencia artificial en los tribunales abre nuevas oportunidades, pero también desafíos para garantizar la integridad de los procesos judiciales.
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
En el caso mencionado, el juzgado utilizó la inteligencia artificial Galileu, autorizada para ser empleada por la Justicia del Trabajo brasileña. Fue durante ese procesamiento que se detectó el código insertado con letra blanca sobre un fondo del mismo color, lo que impedía visualizarlo normalmente.
La justicia brasileña calificó la conducta como grave y “una afrenta a la dignidad del sistema de justicia”. Las dos abogadas responsables del intento de manipulación fueron condenadas a pagar una multa del 10 % del valor de la demanda en juego, equivalente a más de 842.000 reales (unos 163 mil dólares).
Los casos se producen en un momento en que la inteligencia artificial gana terreno en cada vez más industrias, incluido el ámbito jurídico. ¿Está mal incorporar este tipo de tecnología? ¿Acaso las leyes y el derecho deberían seguir siendo un ámbito exclusivo de los humanos?
La supervisión humana sigue siendo clave
De acuerdo con Montezuma, los beneficios de utilizar IA en el mundo jurídico son enormes, como la velocidad, la capacidad de procesar grandes volúmenes de información y el apoyo para identificar antecedentes o inconsistencias. No obstante, el experto advierte que el riesgo aparece cuando se confía ciegamente en la herramienta.
“La IA puede equivocarse, omitir información o ser objeto de manipulación”, comenta.
Si bien el especialista considera ideal que la IA se utilice en la administración de justicia, advierte que el problema aparece cuando se deja de supervisarla.
“La inteligencia artificial puede aumentar enormemente la capacidad del sistema judicial, pero la responsabilidad de decidir debe seguir siendo humana”, acota a este Diario.
Montezuma también considera que cada vez que una tecnología influye en decisiones importantes aparecen incentivos para intentar manipularla. Para el abogado, la solución no pasa necesariamente por crear nuevas leyes. En el caso de Perú, por ejemplo, “tiene muchas [leyes] y es uno de los primeros países en tener una ley y reglamento de IA vigentes”, comenta.
Los sistemas de IA ya son utilizados por numerosos tribunales para revisar documentos, resumir expedientes y agilizar tareas administrativas.
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
“Antes que eso, necesitamos buenas prácticas, estándares técnicos y reglas claras de uso responsable dentro del sistema de justicia”, añade.
No obstante, el experto aclara que Brasil está varios años por delante en la adopción de inteligencia artificial dentro del sistema judicial. “En Perú todavía estamos en una etapa más temprana”.
Pese a ello, el uso de IA es cada vez más frecuente en estudios de abogados y empieza a expandirse en algunas entidades públicas. Sin embargo, “[en el país] estamos lejos de un alto nivel de integración y sofisticación”.
Para el especialista, aunque existe experiencia en transformación digital, los riesgos específicos de la IA todavía son relativamente nuevos. “Más que una discusión tecnológica, esto exige capacitación, protocolos y criterios claros de supervisión humana”.
