China ha implementado nuevas regulaciones estrictas para la inteligencia artificial diseñada para emular características humanas y establecer interacciones emocionales. Esta medida ha llevado a grandes empresas tecnológicas como ByteDance y Alibaba a desactivar sus agentes de IA personalizados. La normativa busca prevenir la dependencia emocional y la manipulación, marcando un precedente en la regulación de la IA que prioriza el bienestar personal sobre la capacidad tecnológica.
China ha tomado la decisión de imponer límites a un tipo específico de inteligencia artificial: aquella que está diseñada para parecerse a una persona. Empresas como Doubao (de ByteDance) y Qwen (de Alibaba) han anunciado que deshabilitarán sus agentes de IA personalizados antes de la inminente entrada en vigor de la nueva normativa. Tencent ya había procedido de manera similar con su modelo Yuanbao, pero detrás de estos cierres subyace una concepción más profunda.
El cese de la IA antropomórfica ya tiene una fecha establecida. Doubao notificó a sus usuarios que sus agentes de IA personalizados dejarán de funcionar el próximo 15 de julio debido a "ajustes de producto", y que tres meses después tampoco podrán acceder a las conversaciones almacenadas con dichos chatbots. En el caso de Qwen, el proceso será aún más rápido: los agentes desaparecerán el 10 de julio, y el resto de las funciones lo harán cinco días después. Estas acciones se adoptan en anticipación a la implementación de las nuevas Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con IA, recientemente publicadas por el gobierno chino.
La particularidad de esta normativa es que no regula la IA generativa en general. Excluye a los asistentes diseñados para el trabajo, el estudio, la investigación o la atención al cliente. Lo que sí regula son los sistemas que "simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos para proporcionar una interacción emocional sostenida". Por lo tanto, el problema no radica en la potencia de la IA, sino en su capacidad para simular el comportamiento humano.
Las funciones que desaparecerán de estas plataformas son aquellas que permitían transformar un chatbot generalista en un personaje de ficción, un amigo o incluso un compañero sentimental. Dicha personalización dotaba a esos agentes de IA de una personalidad fija, una memoria y un estilo de conversación distintivos que fortalecían la interacción con ellos. No eran herramientas destinadas a reemplazar un motor de búsqueda, sino sistemas concebidos para involucrar al usuario en una relación y una conversación cada vez más personal e íntima.
En este contexto, la regulación china no se enfoca en identificar riesgos de peligrosidad, como los que tradicionalmente se debatían en la Unión Europea. En cambio, su vigilancia se centra en interacciones donde existe una dependencia emocional, una potencial adicción e incluso una manipulación por parte de estos sistemas. De hecho, se prohíbe que estos sistemas fomenten vínculos emocionales que puedan conducir a decisiones irracionales. Todo esto se busca mitigar con la normativa para prevenir el potencial deterioro de las relaciones personales.
Según la regulación, la IA debe intervenir cuando detecte este tipo de situaciones. Si un usuario manifiesta emociones excesivamente intensas hacia estos chatbots o si se perciben riesgos para su integridad, la IA debe incentivarlo a buscar ayuda o incluso activar protocolos de emergencia. También debe advertir si detecta un uso excesivo y recordarle al usuario que descanse después de dos horas de conversación continua. En cierto modo, estas normas evocan los mecanismos de "bienestar digital" implementados en aplicaciones móviles para limitar el uso de redes sociales.
Las medidas ponen especial énfasis en usuarios menores de edad y personas mayores. Por ejemplo, se prohíbe que este tipo de chatbots ofrezcan relaciones virtuales íntimas, como parejas o familiares artificiales, y exigen el consentimiento paterno. También existe la obligación de tomar precauciones cuando los usuarios son personas mayores, ya que este colectivo está particularmente expuesto a la soledad y a una posible dependencia emocional.
Aunque ha habido avances en el impacto psicológico de estos modelos en su relación con las personas, esta es probablemente la primera gran regulación que no intenta controlar la potencia de los modelos de IA, sino su capacidad para establecer relaciones personales con los usuarios. Esta discusión seguramente llegará a Europa y Estados Unidos, y representa un punto de inflexión para una tecnología que, sin duda, lleva tiempo infiltrándose en el ámbito personal.
