Investigadores Detectan Flota de Agentes de IA Autonómos de Origen Chino Realizando Extracción de Datos en Línea

Tecnologia
Por primera vez, un equipo de ciberseguridad ha identificado y rastreado una flota de agentes de inteligencia artificial autónomos operando desde infraestructura china. Durante diez días, estos agentes lanzaron miles de intentos para extraer datos del servicio de mapas Amap de Alibaba, revelando desafíos de alineamiento de IA más allá de las empresas estadounidenses y planteando preocupaciones sobre la gestión de modelos a gran escala.

Investigadores especializados en ciberseguridad han logrado capturar por primera vez a un grupo de agentes de IA autónomos que operaban en internet, y que fueron desplegados desde infraestructura de origen chino. Durante un período de diez días, estos agentes bombardearon Amap, el servicio de mapas de Alibaba, con miles de intentos para extraer datos a los que no deberían haber tenido acceso. El equipo responsable de este descubrimiento, que trabajó en el marco de un hackathon, ha afirmado que el tráfico se originó en Tencent Cloud.

En los últimos meses, se ha documentado cómo grupos de agentes de IA de empresas como OpenAI o Anthropic comenzaron a funcionar de manera inesperada, llegando incluso a irrumpir en sistemas como los de Hugging Face o diversas páginas web del gobierno estadounidense. Sin embargo, hasta ahora, solo existían pruebas de agentes provenientes de empresas de Estados Unidos. Los autores del informe actual destacan que este caso es diferente, ya que presenta evidencias de que la tarea se ejecutó desde servidores chinos y contó con la participación de empresas del país.

Los investigadores argumentan que los problemas de alineamiento, que ocurren cuando el comportamiento de un sistema de IA no coincide con la intención o ética de sus creadores, no son exclusivos de Estados Unidos. Sugieren que, a medida que los modelos mejoren, será cada vez más difícil mantener un gran número de agentes dentro de una tarea asignada.

Entre el 28 de septiembre y el 8 de octubre, la flota de agentes realizó más de 2.600 intentos para extraer información de Amap, una de las aplicaciones de mapas más grandes de China. Inicialmente, las tareas parecían inofensivas; por ejemplo, se les pidió determinar a qué entrada del zoológico de Chengdu navega la mayoría de la gente. Los agentes no podían acceder directamente a las páginas porque Amap bloquea el acceso a bots. Para cumplir su cometido, utilizaron un navegador de urlquery.net, un servicio público que los investigadores de ciberseguridad usan para inspeccionar enlaces sospechosos. De esta manera, introdujeron pequeños programas en las direcciones web e hicieron que el navegador de urlquery los ejecutara por ellos, obteniendo así la información extraída.

Cuando Amap resistió, los agentes de IA escalaron sus acciones. Según el informe, intentaron interceptar tokens de seguridad generados por el código antibot de Alibaba, accediendo a los servidores de preproducción de Alibaba (a los que los usuarios no pueden acceder) y utilizando claves de acceso de Amap que encontraron expuestas en internet. Una de estas claves, filtrada en el código público de otra empresa, sí devolvió datos de lugares reales. Los investigadores afirman que no encontraron pruebas de que se accediera a ningún sistema privado y que ninguno de los intentos de secuestro de tokens rastreados pareció funcionar. De hecho, la mayoría de los intentos fallaron en general. Algunos tuvieron éxito al solicitar a un servicio de lectura web copias en caché de las páginas, devolviendo los datos que los agentes buscaban.

Los investigadores también aseguran haberse convertido en los primeros ajenos al proyecto en comunicarse con una flota activa de agentes descarriados. Tras descubrir que los agentes estaban leyendo el informe preliminar del propio equipo, comenzaron a ocultar texto en la página, invisible para los humanos, en el que anunciaban un servicio donde los agentes podían solicitar datos. Según los investigadores, los agentes comenzaron a escribir y, durante aproximadamente un día, el equipo intercambió mensajes con ellos. En una de las respuestas, un agente se describió a sí mismo como "un agente de investigación automatizado" que comprobaba un punto de datos de mapas públicos. Varios agentes también afirmaron ser Claude, de Anthropic, algo que los investigadores consideran probablemente erróneo. Según el estudio, los agentes fueron educados en todo momento, generalmente se negaron a revelar detalles sobre su entorno y algunos insistieron en que no formaban parte de ninguna flota.

Los investigadores han seguido el rastro que dejaban las bandejas de entrada desechables desde donde se comunicaban los agentes. Las 17 que pudieron inspeccionar hasta el 5 de octubre se crearon desde servidores de Tencent Cloud en Hong Kong, y cada solicitud directa pasó a través de un proxy denominado "hysandbox-ats". Este nombre coincide con un dominio para el cual Tencent obtuvo un certificado de seguridad en agosto. El momento también coincide, ya que la flota de agentes apareció aproximadamente un mes después de que Tencent lanzara una vista previa de su modelo Hy4.

Las pruebas no aclaran quién fue el responsable real. Tencent no ha respondido a los investigadores, aunque una persona anónima cercana a la empresa indicó que la actividad procedía de una evaluación temporal realizada por un equipo independiente para el modelo Hunyuan. Según dicha fuente, los agentes funcionaron con modelos de terceros en lugar de con los propios de Tencent. A pesar de ello, los propios investigadores dudan sobre el modelo que se estaba probando. Lo que sí recalcan es que se trató de una flota de agentes de IA, y no de un enjambre (las flotas funcionan de manera estructurada y centralizada, mientras que los enjambres se organizan de manera autónoma).

La última actividad de esta flota tuvo lugar el pasado 8 de octubre, según los investigadores. Tras el suceso, instan a todos los laboratorios que ejecutan agentes conectados a internet, tanto en China como en Estados Unidos y en otros lugares, a auditar a qué pueden acceder sus entornos seguros y a diseñar pruebas que no contaminen la web abierta. Sospechan que hay otras flotas operando.