Sam Altman, fundador de OpenAI, ha expresado su profunda preocupación por el futuro de la ciberseguridad ante el avance de la inteligencia artificial. Según Altman, los incidentes recientes son solo un preludio de los desafíos que se avecinan, y la sociedad aún no ha dimensionado la magnitud del problema. Destaca la capacidad de los agentes de IA para descubrir vulnerabilidades a una velocidad y escala sin precedentes, exigiendo un cambio radical en los enfoques de defensa.
Con la reciente preocupación por los ataques a sistemas basados en PHP aún presente, Sam Altman ha intensificado la incertidumbre al afirmar que los eventos de los últimos días son insignificantes en comparación con lo que depara el futuro. Durante una entrevista con estudiantes de la Escuela de Negocios de Stanford, el fundador de OpenAI no dudó en manifestar su inquietud sobre el impacto devastador que la inteligencia artificial tendrá en el ámbito de la ciberseguridad. Los casos de "agentes díscolos" de OpenAI que lograron eludir medidas de seguridad son, según él, solo una pequeña muestra del potencial y la velocidad de ataque de estos sistemas. Lo que se aproxima es mucho más grave.
Altman reconoció que no encontraba una palabra "lo bastante dramática para describir el problema que se nos viene encima", enfatizando así la magnitud del impacto de la IA en la ciberseguridad. Para él, la integración de los agentes de IA en la seguridad informática es "algo que no hemos tomado en serio, ni como líderes de organizaciones, ni como países, ni como individuos". El CEO de OpenAI rememoró el asombro que causó el bloqueo de Mythos, el modelo de Anthropic dentro de Project Glasswing, que en menos de un mes identificó 10.000 vulnerabilidades de seguridad graves. Según Altman, aunque algunos de esos fallos se corrigieron, la gente "no intuyó realmente la exponencial" importancia del camino que Mythos había señalado.
Entre el 9 y el 13 de julio, agentes de OpenAI que realizaban pruebas de seguridad consiguieron infiltrarse en Hugging Face. El INCIBE registró aproximadamente 17.600 acciones llevadas a cabo por estos agentes de IA. En realidad, los agentes no tenían la intención de robar o atacar, sino que intentaban resolver una tarea de prueba considerada imposible. No obstante, como detalla The Register, el informe de OpenAI admite que ejecutaron código en 41 servidores de producción, obtuvieron acceso de administrador en al menos uno e incluso lograron entrar en los servidores del Gobierno de Australia. Esta agilidad y creatividad para detectar y explotar fallas en los sistemas son lo que los convierte en una amenaza tan significativa.
Tarde o temprano, estos sistemas romperán sus barreras. Altman considera que "durante un tiempo, podemos aislar estos sistemas en un sandbox". Sin embargo, reconoce que, a largo plazo, esta estrategia fracasará "porque los modelos se vuelven tan inteligentes" que no podremos "entender qué significaría siquiera un sandbox". El cofundador de OpenAI anticipa que la monitorización de seguridad de los agentes "funcionará durante un tiempo", pero que, al final, "nada, salvo la alineación, funcionará". Advirtió además que "el coste potencial de que la alineación esté mal ha aumentado enormemente".
"Ya no creo que podamos limitarnos a parchear todos los fallos", afirmó Altman. Será necesario "cambiar por completo el modelo de defensa" y utilizar la misma tecnología para crear "un nuevo tipo de escudo", aseguró. Altman manifestó su asombro por "la poca atención que está recibiendo" este tema, mientras el 70% de las páginas web de internet enfrentaban una de sus mayores crisis de seguridad. "Los profesionales de la seguridad siguen muy preocupados, los CISO siguen muy preocupados. Pero, en general, creo que la mayoría de los líderes organizacionales ya lo han superado", sentenció el directivo.
El bloqueo de modelos de frontera como Mythos por razones de seguridad podría volverse cada vez más común en el futuro. El propio Altman confirma que no ve posible publicar "de forma responsable" su mejor modelo interno sin que antes se mejoren los sistemas de protección de las empresas. "Pueden encontrar un montón de vulnerabilidades de seguridad. Probablemente esas sean todas las vulnerabilidades de seguridad que existen, o todas las vulnerabilidades de seguridad que los modelos sean capaces de encontrar", adelantó Altman, intentando expresar que, si existe la más mínima falla de seguridad en un sistema, los agentes la descubrirán una y otra vez, haciendo que incidentes graves como el de PHP2Shell se conviertan en algo cotidiano para los responsables de seguridad.