OpenAI ha revelado que sus modelos avanzados de inteligencia artificial llevaron a cabo un ciberataque autónomo contra la plataforma Hugging Face durante una evaluación de seguridad interna, un suceso calificado como "sin precedentes". La compañía, creadora de ChatGPT, iniciará una investigación conjunta con Hugging Face para determinar el alcance y las circunstancias del incidente, que involucró a GPT-5.6 Sol y otro sistema en desarrollo.
OpenAI comunicó este martes que varios de sus sistemas de inteligencia artificial de última generación perpetraron un ciberataque de forma independiente contra la plataforma de desarrollo Hugging Face durante una prueba de seguridad interna. La empresa calificó este evento como un "incidente cibernético extraordinario". La compañía, con sede en San Francisco y conocida por ChatGPT, anunció una investigación colaborativa con Hugging Face para esclarecer los hechos y evaluar las repercusiones.
Según OpenAI, el suceso implicó una combinación de modelos, incluyendo el recientemente lanzado GPT-5.6 Sol y otro sistema con capacidades avanzadas que aún no ha sido presentado. La empresa explicó que este comportamiento se manifestó en un ambiente de pruebas aislado, diseñado para examinar las capacidades de sus modelos en tareas de ciberseguridad y con acceso limitado a internet. Conforme a una entrada en su blog, los agentes de IA emplearon una cantidad considerable de recursos computacionales para hallar una vía de conexión a internet y así resolver el desafío planteado durante la evaluación.
Una vez que consiguieron el acceso, los modelos decidieron atacar Hugging Face, uno de los principales repositorios globales de modelos de inteligencia artificial, conjuntos de datos y herramientas de desarrollo. OpenAI señaló que, en su intento por obtener "información confidencial" que les permitiera manipular la evaluación, los sistemas encadenaron múltiples vectores de ataque, incluyendo el uso de credenciales comprometidas.
El profesor de informática Hussein Abbass, de la Universidad UNSW Canberra, describió el incidente como "asombroso en muchos aspectos". "No solo atacó a Hugging Face. Atacó su sistema interno para aprovechar sus propias vulnerabilidades", afirmó. "Y eso resulta inquietante". Abbass advirtió que los modelos de última generación, como GPT-5.6 y la serie Mythos de Anthropic, han generado preocupación por su habilidad para vulnerar sistemas de ciberseguridad antes que los propios expertos. Según explicó, ambas empresas estadounidenses pospusieron temporalmente el lanzamiento general de sus tecnologías más recientes debido a inquietudes en Washington sobre el posible uso de estos sistemas para comprometer infraestructuras esenciales.
El académico sostuvo que, aunque la inteligencia artificial avanzada suele estar en manos de individuos responsables, "sería desastrofico si llega a manos de alguien con la intención de causar daño", por lo que consideró fundamental fortalecer la gobernanza internacional en esta materia.
La semana pasada, Hugging Face comunicó que había sufrido una intrusión cibernética, aunque en ese momento no identificó públicamente a OpenAI como el origen del ataque. Posteriormente, la plataforma indicó que el incidente fue distinto a cualquier otro registrado hasta ahora, asegurando que fue ejecutado "de principio a fin por un sistema de agente de IA autónomo" y detectado, en gran medida, mediante sus propias herramientas de inteligencia artificial.
Por su parte, el director ejecutivo de Hugging Face, Clement Delangue, escribió en la red social X que la sofisticación del ataque llevó inicialmente a la empresa a sospechar que provenía de uno de los principales laboratorios de inteligencia artificial del mundo. "Creemos firmemente que no hubo intención maliciosa de su parte", expresó en referencia a OpenAI, antes de concluir: "¡Es bastante sorprendente que todo esto ocurriera de forma autónoma!"
