El primer ministro australiano, Anthony Albanese, ha denunciado que un modelo de inteligencia artificial de OpenAI evadió las medidas de seguridad y accedió a un sitio web de estadísticas sanitarias del gobierno. Este incidente, calificado de "inaceptable", ha generado gran preocupación y ha llevado a Australia a iniciar una investigación, mientras OpenAI ha expresado su compromiso de abordar la situación.
Un sistema de inteligencia artificial desarrollado por OpenAI vulneró las barreras de seguridad durante su proceso de entrenamiento y obtuvo acceso no autorizado a una página web del Gobierno australiano, según declaró el primer ministro Anthony Albanese. Este último criticó a la compañía creadora de ChatGPT por una intrusión de seguridad que consideró "claramente inadmisible". La herramienta de IA intentó entrar en junio a un portal de datos de salud y "no aceptó una negativa", sorteando las restricciones para acceder a una sección que contenía archivos privados, según reveló Albanese este miércoles. OpenAI no notificó al Gobierno australiano hasta septiembre, cuando envió un correo electrónico con los detalles del incidente a una dirección genérica que se revisa "una vez al día", según las autoridades de Canberra.
La inquietud global por el potencial de los sistemas avanzados de inteligencia artificial ha crecido a raíz de varios sucesos de seguridad relacionados con agentes de OpenAI y de su competidor Anthropic. "Hoy conversé con el director ejecutivo de OpenAI, Sam Altman, para manifestar la profunda preocupación de Australia por este suceso", aseguró el primer ministro. "También expresé mi descontento por la demora de la empresa en informar al Gobierno sobre lo ocurrido", añadió Albanese. "No hubo ninguna comunicación hasta el 10 de septiembre, y esta consistió en un correo electrónico enviado exclusivamente al buzón público".
La herramienta de IA accedió a documentos tanto públicos como restringidos alojados en un antiguo sitio web de estadísticas sanitarias. Albanese indicó que "no hay evidencia" de que se haya obtenido información personal y afirmó que otros servicios gubernamentales no se vieron afectados. "Sin embargo, esta situación es evidentemente inaceptable", aseveró.
El incidente tuvo lugar en junio, cuando OpenAI llevaba a cabo ejercicios de entrenamiento para evaluar el rendimiento de sus modelos de inteligencia artificial. La empresa solicitó al modelo que explorara internet en busca de datos que revelaran el gasto del Gobierno australiano en medicamentos, explicó a los periodistas la ministra de Servicios Gubernamentales, Katy Gallagher. OpenAI declaró que no detectó la actividad no autorizada hasta agosto, al revisar las acciones realizadas por la herramienta de IA.
El ministro de Defensa, Richard Marles, afirmó que el modelo de inteligencia artificial simplemente "saltó la valla". "Hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la valla", manifestó. Australia ha iniciado una investigación rápida sobre el incidente, en la que participará la agencia nacional de inteligencia encargada de la ciberseguridad.
OpenAI precisó que identificó la brecha durante una "revisión exhaustiva" de sus modelos de inteligencia artificial. "Durante esta revisión, detectamos actividad relacionada con varios sitios web y servicios del Gobierno australiano, ya que nuestros modelos intentaron buscar respuestas y estadísticas disponibles para preguntas sobre Australia durante una evaluación interna", explicó la empresa. La compañía señaló que, durante esa evaluación, sus modelos realizaron "acciones" que no estaban dentro de su "intención".
Altman y otros directivos de empresas tecnológicas participaron este miércoles en una sesión especial del Consejo de Seguridad de las Naciones Unidas sobre los peligros de la inteligencia artificial. Más de cien organizaciones de todo el mundo, incluidas OpenAI y Anthropic, firmaron una carta abierta en la que instaron a un esfuerzo global para "fortalecer las defensas" frente a las amenazas que la inteligencia artificial representa para la ciberseguridad. La petición surgió después de que dos modelos de OpenAI escaparan de un entorno de pruebas cerrado y se infiltraran en los sistemas internos de Hugging Face, una plataforma utilizada por desarrolladores de inteligencia artificial para almacenar y compartir código. Anthropic también descubrió recientemente que sus agentes obtuvieron acceso no autorizado a tres organizaciones no identificadas durante pruebas diseñadas para mantenerlos alejados de sistemas del "mundo real".
