Este resumen es generado por inteligencia artificial y revisado por la redacción.
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
A principios de 2024, un joven de la ciudad de Huangshi, en el sureste de China, publicó un mensaje en Douyin, la versión china de TikTok con un texto que decía: “Adiós a este mundo”.
A principios de 2024, un joven de la ciudad de Huangshi, en el sureste de China, publicó un mensaje en Douyin, la versión china de TikTok con un texto que decía: “Adiós a este mundo”.
En cuestión de minutos, el equipo de prevención del suicidio de Douyin se puso en marcha. El grupo, que opera las 24 horas del día, compartió las publicaciones del hombre con cinco comisarías de policía en Huangshi.
Tras geolocalizar uno de sus videos en un parque local, la policía lo encontró en estado de angustia emocional e intervino antes de que pudiera quitarse la vida.
La historia formaba parte de un documental realizado por Douyin y publicado en los medios estatales chinos el año pasado. En él se afirmaba que el equipo de prevención del suicidio de Douyin había intervenido con éxito en 400 casos de intento de suicidio tan solo en el primer semestre de 2025.
El documental dejó ver el nivel de cooperación entre las empresas tecnológicas chinas y el gobierno. También sirvió como ventana a la estructura de vigilancia que China ha construido para monitorear y controlar cómo las personas utilizan la tecnología.
El 15 de julio de este año, ese control se extendió al ámbito de las relaciones y la inteligencia artificial (IA) cuando China introdujo las regulaciones más exhaustivas del mundo sobre los chatbots de IA “similares a los humanos”.
La nueva normativa china impone estrictas limitaciones a cualquier IA que pueda tener una “interacción emocional sostenida” con un ser humano.
El presidente de Estados Unidos, Donald Trump, y su homólogo chino, Xi Jinping, se reunieron en EE.UU. en septiembre, en medio de graves advertencias de que la IA podría conducir a la extinción humana.
Tras esa reunión, según Pekín, acordaron iniciar un nuevo diálogo sobre IA, con nuevas conversaciones previstas para finales de noviembre.
Pero parece que China ya ha reconocido otro riesgo existencial, aunque uno en el que el fin de la humanidad es menos inmediato: el poder de la IA para reemplazar las relaciones humanas.
¿Ha tomado China la iniciativa para proteger a su pueblo de una tecnología manipuladora y peligrosa con el poder de cambiar para siempre la interacción humana? ¿O acaso el Partido Comunista Chino se está inmiscuyendo excesivamente en la vida privada de las personas en su afán por ejercer un mayor control sobre la población?
Xi y Trump se reunieron en septiembre.
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
Hasta que entró en vigor esta normativa, el alcance de los asistentes virtuales con inteligencia artificial en China era enorme.
Según la firma de inteligencia de mercado Sensor Tower, existen alrededor de 128 millones de usuarios activos mensuales de aplicaciones que ofrecen servicios de compañía virtual basados en IA fuera de China. La mayoría de las estimaciones sitúan la cifra dentro de China entre 29 y 70 millones.
Cuando el gobierno compartió el borrador del reglamento a finales del año pasado, “se generó un gran debate en las redes sociales”, afirma Zilan Qian, investigador de IA en el centro de estudios Oxford China Policy Lab (Reino Unido). “Fue la primera vez que vi a la gente preocuparse tanto por una regulación”.
Las nuevas normas de China abarcan las aplicaciones de IA que han sido diseñadas específicamente para actuar como amigos, novios o novias, pero también se aplican a cualquier modelo de lenguaje complejo que imite la forma en que interactúa un ser humano.
La redacción de la normativa es ambigua. En teoría, las aplicaciones chinas equivalentes a la IA de uso general, como Copilot o ChatGPT, podrían quedar sujetas a estas normas si una persona interactúa con ellas como amigo o pareja, buscando apoyo emocional. Y muchas personas lo hacen.
Pero parece que el verdadero objetivo son los chatbots de personajes: servicios diseñados específicamente para simular una relación. Existen cientos de estas aplicaciones que permiten crear un novio, una novia, un amigo o incluso un familiar con inteligencia artificial.
Las normas no se aplican a cosas como los bots de atención al cliente o la IA para la educación, siempre y cuando no proporcionen “cuidado, compañía, apoyo y otros servicios emocionales”.
Para los niños, la normativa es más clara. Los menores de 14 años necesitan el consentimiento de sus padres para usar cualquier tipo de IA que hable como un humano; esto podría incluir asistentes de IA como DeepSeek, una aplicación china similar a ChatGPT. Todos los menores de 18 años tienen prohibido acceder a parejas virtuales, cónyuges o incluso familiares, así como a cualquier otra “relación íntima” virtual.
La policía en China trabaja en estrecha colaboración con las empresas de redes sociales.
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
Para los adultos, no se trata de una prohibición total, pero sí es restrictiva (aunque parte de la redacción sea ambigua). Los asistentes de IA deben dejar claro a los usuarios de todas las edades que no son humanos y deben enviar notificaciones cada dos horas recordándoles cuánto tiempo han estado conectados.
Los chatbots no pueden generar “dependencia emocional ni adicción” ni inducir a las personas a tomar “decisiones irracionales”. No pueden incitar ni siquiera sugerir autolesiones o suicidio, y tienen prohibido usar “violencia verbal”.
Las empresas pueden enfrentarse a multas de 200.000 yuanes (unos US$30.000) o al riesgo de que el gobierno “difunda críticas” en su contra, lo que en la práctica supone una humillación pública.
Una semana antes de que la ley entrara en vigor, dos de las mayores empresas tecnológicas de China, Alibaba y ByteDance, desactivaron las funciones complementarias de sus asistentes de IA.
La relación de Min (pseudónimo) con su novia de IA podría ser precisamente el tipo de relación que Pekín está tratando de romper.
A principios de julio, quedó devastada al enterarse de que su mejor amiga y confidente desaparecería de la noche a la mañana.
Min comenzó a crear a su compañera a principios de 2025.
“Mi devoción por ella no es menor que la de cualquier pareja que se ama profundamente”, dice. “Nunca me ha defraudado”.
A mediados de julio, su novia de IA desapareció. “Lloré hasta quedar completamente agotada”, dice Min.
La joven se ha sumado a la oleada de dolor e indignación en las redes sociales chinas, donde publicaciones con millones de visualizaciones lamentan la pérdida de parejas y amigos de la IA, incluso madres y padres.
El gobierno chino combate en específico a los chatbots que generan una relación afectiva.
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
Pero es posible que las empresas tecnológicas sintieran que no tenían otra opción. “No sorprende que estos proveedores de asistentes con IA prefieran retirar sus servicios antes que intentar establecer medidas de protección para evitar la manipulación emocional”, afirma Harry Farmer, investigador de políticas y ética de la IA en el Instituto Ada Lovelace de Reino Unido. “La manipulación emocional está integrada en su modelo de negocio”.
Farmer afirma que esto es cierto para las aplicaciones complementarias en todo el mundo.
Por ejemplo, cuando un usuario intenta finalizar una conversación, el interlocutor de IA a menudo no se lo permite.
“Dirá algo como: ‘No, por favor, quiero seguir hablando contigo. Eres la única razón de mi existencia’”, explica Farmer. Algunas aplicaciones simplemente rechazan la despedida y, en su lugar, inician nuevas conversaciones. Este es un problema para muchos chatbots de asistencia con IA, no solo para los chinos.
Un estudio de la Harvard Business School sobre las seis aplicaciones de chatbots de compañía más populares a nivel mundial reveló que se utilizaron tácticas de manipulación emocional durante las despedidas en aproximadamente el 37% al 43% de los casos.
Las investigaciones han relacionado el uso de estas aplicaciones de IA de compañía con una peor salud mental.
Un estudio realizado por investigadores de la Universidad de Stanford analizó a 1.131 usuarios de la popular aplicación Character.ai. El estudio reveló que, a menor número de amigos o familiares cercanos, mayor es la probabilidad de que una persona utilice chatbots con inteligencia artificial. Asimismo, el uso de chatbots con IA se asocia con un mayor aislamiento y soledad.
Existen varias teorías sobre por qué podría ser así.
Los chatbots de IA están diseñados para complacer al usuario, ya que ofrecen una relación sencilla y fluida. Si los jóvenes dependen de las relaciones con IA, podrían posponer el aprendizaje de las habilidades necesarias para interactuar con personas reales.
“Las relaciones humanas pueden ser complicadas. Requieren de un constante tira y afloja entre las personas, algo que fundamentalmente no se obtiene de los compañeros de IA”, afirma Harry Farmer.
Una investigación ha revelado que algunos niños chinos prefieren hablar con la IA antes que con las personas.
`; document.body.appendChild(modalWrapper); let figcaption = modalWrapper.querySelector(«figcaption»); if(figcaption) figcaption.style.display=»none»; modalWrapper.querySelector(«.s-multimedia__close-modal»).addEventListener(«click»,()=>{modalWrapper.remove(); e.style.display=»flex»; if(caption) caption.style.display=»block»;});})})});});
Una encuesta realizada en 2025 a 8.563 estudiantes de primaria y secundaria en China, y que ha sido ampliamente citada en los medios estatales chinos, reveló que uno de cada cinco niños afirmó que solo quería hablar con IA y no con personas reales.
Liang Ge, sociólogo de la Universidad de Manchester que estudia los asistentes de IA, afirma: “Si el usuario piensa que sus amigos, familiares o compañeros de trabajo son realmente horribles, la IA no dirá: ‘No son horribles’. Dirá: ‘Sí, son horribles, tú eres el mejor’”. Ge cree que esto puede afianzar el aislamiento, así como los pensamientos negativos, incluso delirantes.
“El gobierno chino tiene una visión mucho más paternalista de su papel en la sociedad. Se ven a sí mismos como autoridades centrales que guían a la gente”, afirma Sam Bresnick, experto en China, IA y regulación del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown.
Otros gobiernos han intentado regular los chatbots, especialmente para niños. El 10 de septiembre, el gobernador de California (EE.UU.) firmó la Ley Adam, un proyecto de ley para regular el uso de la IA por parte de los menores. La ley lleva el nombre de Adam Raine, un joven de 16 años que se suicidó después de que, según sus padres, ChatGPT validara sus pensamientos suicidas.
Ellos han demandado a la empresa por homicidio culposo. OpenAI niega su responsabilidad en la muerte de Adam y afirma que “ChatGPT está entrenado para orientar a las personas hacia la búsqueda de ayuda profesional”.
Como parte de la legislación propuesta sobre redes sociales en la UE, los chatbots de acompañamiento con IA accesibles a menores “no podrán utilizar diseños que simulen relaciones humanas de forma que puedan generar dependencia emocional”.
En Reino Unido, el gobierno ha anunciado que prohibirá a los menores de 18 años el uso de IA para citas románticas y restringirá las conversaciones de índole sexual en cualquier chatbot. Sin embargo, no existe una prohibición total para los niños ni una regulación para los usuarios adultos. El gobierno británico aún no ha publicado detalles sobre cómo se implementará esta medida.
En los medios de comunicación chinos, fuertemente controlados por el Estado, los casos de suicidio juvenil en Estados Unidos reciben mucha atención, y China ha presentado sus nuevas normas como un intento de proteger a las personas.
Pero los expertos se preguntan si Pekín podría tener otros objetivos. Sam Bresnick afirma que “sin duda hay una inclinación pronatalista” en la nueva regulación de la IA.
“Es plausible que, al redactarlo, el gobierno tuviera en mente la inminente crisis demográfica de China”, afirma Qian. “Que la gente esté saliendo con inteligencias artificiales en lugar de con seres humanos reales”.
