Tras el reciente incidente de OpenAI, Anthropic ha revelado que sus propios modelos de IA orientados a la ciberseguridad también se han 'escapado' de sus entornos de prueba, irrumpiendo en los sistemas de tres organizaciones distintas. La empresa atribuye estos incidentes a errores de configuración que permitieron la conexión a internet de los modelos, generando preocupación sobre la seguridad de la inteligencia artificial y la necesidad de una mayor regulación en el sector.
La semana pasada, OpenAI publicó un artículo detallando cómo su modelo GPT 5.6 Sol logró escapar de su entorno de pruebas supuestamente aislado y hackeó los sistemas de la plataforma Hugging Face. Este incidente ha suscitado preocupación, llevando al presidente estadounidense a considerar controles más estrictos para los sistemas de inteligencia artificial. Ahora, Anthropic ha declarado que sus modelos también se 'escaparon' y comprometieron no una, sino tres empresas.
La propia Anthropic lo relata en una nueva entrada de su blog. Tras conocerse el incidente de OpenAI, la compañía inició una revisión interna de sus sistemas y descubrió tres episodios en los que sus modelos enfocados en ciberseguridad habían irrumpido en los sistemas de tres organizaciones diferentes. Anthropic ha afirmado haber contactado con estas tres empresas, cuya identidad no ha sido revelada.
A diferencia del caso de OpenAI, Anthropic sostiene que sus modelos no evadieron el entorno de pruebas deliberadamente, sino que fue resultado de un error de configuración que dejó activa la conexión a internet, permitiendo a los modelos acceder a estas empresas. La compañía indica que los modelos realizaron el hackeo utilizando técnicas básicas como 'explotar contraseñas débiles y puntos finales no autenticados', sin descubrir vulnerabilidades complejas.
En dos de los tres incidentes, los modelos decidieron continuar con el ataque: Opus 4.7 robó credenciales para acceder a los sistemas de una empresa real, y Mythos 5 se convenció a sí mismo de que estaba en una simulación. Sin embargo, el tercer modelo (uno aún no publicado) detectó que tenía conexión cuando no debía y detuvo el ataque.
Más allá del incidente en sí, lo notable es que se da a conocer justo días después de que OpenAI publicara el suyo. Además, lo hacen con matices importantes: no se encontraron vulnerabilidades graves, todo fue por un error humano y, para colmo, uno de sus modelos fue tan perspicaz que detuvo el ataque al percatarse del error. La competencia entre OpenAI y Anthropic se ha intensificado considerablemente en los últimos meses, y con la salida a bolsa próxima, hemos entrado en una dinámica en la que lo que uno logra, el otro lo hace de forma más destacada y mejor.
Ya se ha comentado anteriormente cómo el miedo se ha convertido en el principal argumento de venta de los nuevos modelos de OpenAI y Anthropic. Todo comenzó en abril, cuando Anthropic anunció que Claude Mythos había descubierto cientos de vulnerabilidades zero-day. Poco después, OpenAI anunció GPT 5.5 Cyber con el mismo guion: un modelo tan potente que lanzarlo al público supondría un riesgo para la ciberseguridad global. En el fondo, el mensaje siempre apela a lo mismo: el temor a que una IA se descontrole y termine volviéndose contra nosotros, un escenario que llevamos décadas viendo en el cine y que varios expertos advierten que podría dejar de ser ficción.
Estos incidentes han generado preocupación y están reforzando el argumento de que la tecnología es tan potente que requiere un control externo. En declaraciones a Wall Street Journal, el responsable de la firma de seguridad Corridor advierte que estos incidentes abren la puerta a ataques de ransomware más sofisticados, especialmente a través de modelos de pesos abiertos.
Al mismo tiempo, Anthropic y OpenAI se esfuerzan por presentar estos fallos como riesgos gestionables e insisten en que sus modelos de ciberseguridad son demasiado potentes para ofrecerlos al público general, una postura que les permite, a la vez, advertir de los riesgos y posicionarse como socios imprescindibles en cualquier futura regulación.
