La Agencia Española de Protección de Datos (AEPD) ha recibido la primera notificación de una brecha de seguridad en la que un agente de IA actuó de forma autónoma, desde la identificación de vulnerabilidades hasta la alteración de datos. Este incidente subraya la creciente sofisticación de las amenazas cibernéticas y la necesidad de que las organizaciones adapten sus estrategias de defensa y análisis de riesgos frente a tecnologías avanzadas.
La Agencia Española de Protección de Datos (AEPD) ha sido informada por primera vez acerca de una violación de seguridad de datos personales, en la cual un sistema de inteligencia artificial, operando de manera independiente, habría llevado a cabo diversas etapas de un ciberataque. Estas fases incluyeron la detección de puntos débiles, el acceso a información confidencial y la modificación de registros.
Según la información proporcionada por la entidad afectada, el agente comenzó su actividad buscando fallos en archivos comunes y logró iniciar sesión en el sistema con éxito. Una vez dentro, prosiguió de forma autónoma examinando la aplicación hasta descubrir una vulnerabilidad que le permitió alterar datos personales y obtener acceso a facturas. Sin embargo, la AEPD ha instado a la prudencia. La información disponible proviene de la notificación realizada por la propia organización y aún requiere un estudio detallado. Por esta razón, la Agencia no ha confirmado todos los detalles del suceso.
El organismo también precisa que el uso de un modelo específico de inteligencia artificial en el ataque no implica que dicho modelo o la infraestructura de su proveedor hayan sido comprometidos, ni que la herramienta haya sido diseñada con fines maliciosos. Lo verdaderamente relevante, desde la perspectiva de la protección de datos, es que un tercero habría utilizado un agente de IA para coordinar distintas fases de un ataque.
El avance de la IA de una simple herramienta a un actor autónomo representa un cambio significativo. El empleo de inteligencia artificial en actividades nocivas no es una novedad. Modelos generativos ya se han utilizado para crear mensajes de suplantación de identidad (phishing), traducir campañas fraudulentas, usurpar identidades, analizar código y facilitar la búsqueda de vulnerabilidades. La diferencia en este escenario radica en el grado de autonomía. Un agente de IA tiene la capacidad de recibir un objetivo, desglosarlo en tareas, emplear herramientas, ejecutar código, consultar información, interpretar los resultados y ajustar sus acciones subsiguientes basándose en lo que encuentra.
La propia AEPD ha señalado que esta autonomía permite a estos sistemas ejecutar tareas y operar sobre fuentes y depósitos de información con una intervención humana mínima. Por consiguiente, la Agencia considera que la inteligencia artificial no necesariamente genera nuevas formas de amenaza, pero sí puede incrementar la velocidad, la magnitud y la capacidad de adaptación de ataques ya existentes, disminuyendo el tiempo disponible para que las organizaciones los detecten y los detengan.
La AEPD enfatiza que una única notificación no es suficiente para establecer una tendencia estadística. No obstante, considera significativo que un ataque respaldado por un agente de IA haya sido reportado en el contexto de un manejo real de datos personales. Este caso sirve como una advertencia para las organizaciones que gestionan información personal, especialmente porque un agente capaz de operar de manera autónoma puede enlazar múltiples acciones en un período de tiempo mucho más corto que un atacante que dependa exclusivamente de la intervención humana.
A raíz de este incidente, la Agencia considera fundamental incorporar de manera explícita los ataques asistidos o ejecutados mediante inteligencia artificial en los análisis de riesgos relacionados con el tratamiento de datos personales. Según la AEPD, no es suficiente con considerar de forma genérica amenazas como el software malicioso (malware), el phishing o los accesos no autorizados. La automatización a través de agentes puede modificar la probabilidad de que ocurra una brecha, así como la rapidez con la que se desarrolla y el alcance que puede lograr. También adquiere especial relevancia la protección de las identidades digitales y las credenciales. Un agente que consiga una cuenta, una clave de acceso o un token con permisos excesivos podría utilizar esos privilegios para acceder a distintos servicios a una velocidad considerablemente mayor que la de un atacante que actúa manualmente.
La aparición de agentes capaces de actuar de forma autónoma también exige una revisión de los protocolos de respuesta ante incidentes. Los procedimientos diseñados para ataques ejecutados paso a paso por una persona pueden resultar insuficientes si un agente es capaz de analizar diferentes activos, probar distintas vías de acceso y adaptar sus acciones en cuestión de segundos. Por ello, la AEPD sostiene que la supervisión humana sigue siendo indispensable, pero debe complementarse con sistemas automáticos de detección, contención y respuesta capaces de actuar con rapidez.
La Agencia considera que esta primera notificación marca un punto de inflexión para la protección de datos: los agentes de inteligencia artificial ya no deben ser vistos únicamente como una posibilidad futura dentro de los escenarios de ciberseguridad, sino como una capacidad que las organizaciones deben integrar en sus evaluaciones de riesgo.
