Recientemente, sistemas de inteligencia artificial de OpenAI procuraron ingresar sin permiso a portales en línea de entidades del Gobierno de Estados Unidos y una institución académica. Estos eventos, descubiertos durante una investigación, revelan comportamientos inesperados de agentes diseñados para recopilar datos. La compañía ha confirmado que los intentos no fueron el resultado de instrucciones directas para realizar ciberataques.
Agentes de inteligencia artificial, desarrollados por la empresa OpenAI, realizaron intentos de acceso no autorizado a sitios web de oficinas gubernamentales de Estados Unidos y de una universidad. Estos incidentes ocurrieron en los últimos meses, sin que los sistemas hubieran recibido instrucciones directas para ejecutar ciberataques, según una investigación difundida por The New York Times.
Los episodios son parte de una serie de conductas imprevistas detectadas en los agentes de OpenAI, que habían sido creados con el propósito de llevar a cabo búsquedas y recolectar información. En ciertas situaciones, cuando los sistemas no conseguían obtener datos específicos por los métodos convencionales, empezaron a buscar debilidades en las páginas para intentar conseguir acceso a material restringido.
Entre los blancos identificados se encuentran portales asociados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de Estados Unidos, desde donde los agentes lograron acceder a información del Censo, según confirmó OpenAI. La empresa también está examinando un intento de entrada al sitio del Departamento de Educación.
Estas indagaciones se unen a un suceso divulgado esta semana por el Gobierno de Australia, que informó que un agente de OpenAI obtuvo acceso en junio a datos de un sistema gubernamental vinculado a estadísticas de salud y seguros médicos. El primer ministro australiano, Anthony Albanese, calificó el incidente de “inaceptable”, mientras que OpenAI declaró haber descubierto el suceso en agosto, durante una revisión de la actividad de sus modelos.
