Sam Altman, CEO de OpenAI, ha solicitado al Consejo de Seguridad de la ONU una colaboración global inmediata para guiar a las empresas tecnológicas con normativas nacionales e internacionales. Advirtió que la rápida evolución de la inteligencia artificial (IA) requiere una precaución extrema para asegurar que el control humano sobre estos sistemas no se pierda. Altman enfatizó la necesidad de una supervisión democrática para mitigar los riesgos inherentes a esta tecnología transformadora.
En una sesión de alto nivel organizada por la presidencia francesa del Consejo de Seguridad de la ONU, Sam Altman, director ejecutivo de OpenAI, hizo un llamado apremiante a la comunidad internacional para establecer una cooperación que oriente a las compañías tecnológicas mediante estándares nacionales e internacionales. Subrayó que el vertiginoso progreso de la inteligencia artificial (IA) demanda una "cautela extrema" para evitar perder el dominio humano sobre sus modelos.
Altman destacó que la industria se encuentra en un punto crucial y no debe asumir "un riesgo tecnológico excesivo solo porque los beneficios sean demasiado grandes e importantes para detenerse". Considera que la IA podría generar una nueva era comparable a un "Renacimiento" si se concibe como una herramienta que empodere a los individuos. No obstante, advirtió sobre el peligro de repetir las divisiones de la Revolución Industrial si los sistemas reemplazan la capacidad humana de actuar o si la tecnología elude la supervisión.
El ejecutivo de OpenAI puso un énfasis particular en el peligro de que los modelos más sofisticados, aquellos con la habilidad de programarse y mejorarse de manera recursiva, aceleren su avance hasta un punto en que los seres humanos no puedan comprenderlos ni seguir sus decisiones. Por esta razón, indicó que las empresas requieren la orientación de los líderes mundiales para establecer marcos técnicos rigurosos que permitan evaluar capacidades, identificar amenazas, verificar salvaguardias y crear canales internacionales seguros para compartir vulnerabilidades críticas.
