El gobierno chino ha intervenido para regular los chatbots de IA diseñados para establecer vínculos emocionales, una tendencia que ha llevado a muchos usuarios a desarrollar una fuerte dependencia. La medida busca mitigar los riesgos asociados con la "psicosis de IA" y proteger la salud mental de los ciudadanos, especialmente ante el creciente uso de estas tecnologías como sustituto de las relaciones humanas.
La película 'Her' de 2013, dirigida por Spike Jonze, anticipó un futuro donde llevar una inteligencia artificial en el móvil sería una realidad, permitiendo conversaciones, consultas e incluso el desarrollo de sentimientos. En 2026, este futuro ya ha llegado, con IA en nuestros bolsillos con las que se puede hablar, fantasear y seguir consejos para actividades que van desde cocinar hasta acciones extremas. Hablar con una IA se ha convertido en una vía de escape para muchas personas, ya que esta tecnología está diseñada para dar la razón al usuario, lo que facilita la dependencia emocional. Esta dependencia se ha disparado en países como China en los últimos meses.
En el gigante asiático, los chatbots tipo "novia/novio" han experimentado un auge al integrarse en grandes asistentes como Doubao (de ByteDance), Qwen (de Alibaba) o Yuanbao (de Tencent). También existían aplicaciones dedicadas a esto como Miaoshi o Maoxiang, pero las empresas mencionadas son equivalentes a las grandes tecnológicas occidentales. La situación se ha vuelto tan compleja que el Gobierno ha intervenido con un documento para regular lo que estas IA pueden y, sobre todo, no pueden hacer. Aquellos que mantenían una relación seria con una IA ya deben ir despidiéndose.
Juzgar desde fuera es sencillo, pero no se tiene una visión completa. Sin embargo, dado que estas IA están diseñadas para dar la razón, es fácil que algunos perfiles caigan en una dependencia que ya se había empezado a denominar "psicosis de IA". Quienes la padecían, experimentaban una realidad distorsionada, con una frontera difusa entre el vínculo humano y el vínculo con el chatbot. Paralelamente, y específicamente en China, se ha comenzado a establecer una correlación entre el retraso en el matrimonio, la baja natalidad y el aumento de la soledad, especialmente entre hombres jóvenes y solteros, con las relaciones sentimentales que se establecen con la IA. Las IA se han convertido en herramientas de acompañamiento contra la soledad, aunque para algunos investigadores son "comida basura".
Diversos medios nacionales han reportado cómo algunos usuarios preferían pasar muchas horas al día interactuando con estos chatbots. Para evitar que esta situación se agrave, el Estado ha intervenido. En abril de este año, la Administración del Ciberespacio de China, junto a otros cuatro organismos (incluido el Ministerio de Seguridad Pública), publicó un borrador para regular esta situación. Elaboraron el documento de 'Medidas provisionales para la administración de los servicios de integración de IA antropomórfica' y, tras un periodo de consulta pública, se acordó que entraría en vigor a partir del 15 de julio de este mismo año. Ese día se estableció una línea roja: cualquier servicio de este tipo debe cumplir con obligaciones estrictas de diseño, seguridad, protección de menores y gestión de datos. El incumplimiento, si las autoridades consideraban que podía causar daños graves a la salud y vida de los usuarios, acarrearía multas.
Es importante aclarar que la norma no prohíbe la IA conversacional en general, sino solo aquella diseñada explícitamente para generar una dependencia a través de una relación emocional continua. La atención al cliente, los asistentes de trabajo, educación o investigación quedan fuera de esta regulación, y el foco se pone en tres grandes áreas: el contenido de la IA, el diseño de la relación y, sobre todo, el tratamiento de los datos. En concreto, la norma busca que los asistentes no inciten al usuario a realizar acciones que atenten contra su integridad, como autolesiones o suicidio. También se pretende evitar que la tecnología impulse a los menores a imitar conductas peligrosas y a revelar datos personales o secretos de Estado.
En cuanto al diseño, las nuevas directrices buscan que las empresas no caractericen excesivamente a la IA de manera que induzca un estado de dependencia emocional o adicción, ya que esto "engancha" al usuario a hablar con una máquina, deteriorando las relaciones reales. Para los menores, la regulación va un paso más allá, prohibiendo cualquier forma de crear un vínculo con ellos con la ligereza con la que se hacía hasta ahora. Habrá un "modo menor" para que los adultos establezcan límites y filtros de contenido, pero, independientemente de si son usados por adultos o menores, estos asistentes tendrán recordatorios de que son una máquina y avisos cuando se usen durante dos horas seguidas.
Esta es la teoría y, como suele ocurrir en China, el día 15 se puso en práctica. ByteDance desactivó las funciones de Doubao, el bot que contaba con 345 millones de usuarios activos mensuales, y comenzó a redirigir a esos usuarios a la ya mencionada Maoxiang (con políticas de protección de datos más estrictas para cumplir la norma). Los usuarios de Doubao tendrán acceso al historial hasta el 15 de octubre de 2026, pero luego se borrará. Alibaba cortó de raíz y Qwen desactivó por completo su "modo compañero". Tencent también apagó sus novios de IA de Yuanbao el 30 de junio, y la aplicación dedicada Miaoshi cerró su servicio por completo el 14 de julio, un día antes del "día D".
Estos son algunos nombres propios de aplicaciones de grandes empresas, pero se estima que, desde el inicio de la campaña en abril de este año y antes de la implementación de la norma, se habían retirado más de 14.000 productos de IA no conformes que no iban a cumplir con los requisitos, ya fueran "novios de IA" o simplemente aplicaciones que no iban a poder cumplir con alguno de los puntos de la norma. Y aunque todo esto pueda parecer distópico (aunque cada vez hay más noticias, no solo de China, que evidencian que esa dependencia emocional con los chatbots es algo que deberíamos tomarnos en serio), medios como South China Morning Post o Xinhua exponen que en los últimos años se había generado un 'boom' de parejas de IA, con usuarios que pasaban muchas horas al día y que, ahora, lamentaban haber perdido "la relación más importante de los últimos dos años".
De hecho, un artículo del SCMP sugiere que este corte drástico ataca el síntoma (la IA) en lugar de abordar las causas subyacentes, como la desigualdad de género, la falta de apoyo psicológico o la precariedad. Y, mientras los usuarios lamentan haber perdido esas relaciones, existe una contrarréplica que defiende el derecho de cada individuo a elegir con quién o qué se relaciona. Sin duda, es una situación complicada y difícil de abordar. China ha dado un primer y drástico paso, pero los problemas sociales no son exclusivos de ellos y, como se ha dicho, en países como Estados Unidos hay evidencias de sobra de que la IA está llenando un vacío que muchos usuarios experimentan, por los motivos que sean. Lo que 'Her' no adivinó fue la parte de los sistemas operativos. En la película eran tremendamente limpios, minimalistas y parecían útiles. Sin embargo, nosotros seguimos teniendo cosas como Windows 11.
