El secretario general de la ONU, António Guterres, ha presentado una propuesta para establecer un acuerdo internacional que proteja a los niños de los riesgos asociados con la inteligencia artificial. Guterres enfatizó que ningún menor debería ser utilizado como "conejillo de indias" en sistemas de IA sin la debida regulación, destacando la urgencia de actuar ante el rápido avance de esta tecnología. La iniciativa busca establecer principios claros para garantizar la seguridad y el bienestar de los jóvenes en el entorno digital.
El secretario general de la Organización de las Naciones Unidas, António Guterres, sugirió el lunes la creación de un convenio internacional para defender a los menores de los posibles peligros de la inteligencia artificial (IA). Guterres advirtió firmemente que ningún niño debería convertirse en "un objeto de prueba de una IA sin control". Durante la inauguración del primer Diálogo Global sobre Gobernanza de la Inteligencia Artificial, Guterres delineó un pacto fundamentado en tres principios esenciales: que las compañías demuestren la seguridad de sus sistemas para los jóvenes antes de hacerlos accesibles, una política de cero tolerancia hacia la generación de imágenes de explotación sexual infantil utilizando IA, y que los sistemas dirijan a los niños hacia asistencia humana al detectar señales de angustia o riesgo de autolesión.
La reunión, iniciada por Guterres en Ginebra, es parte de la estrategia adoptada en el Pacto Digital Global de 2024, que busca promover la gobernanza internacional de esta tecnología. Actualmente, la IA está dominada por un pequeño grupo de corporaciones, mayoritariamente estadounidenses, aunque con un rápido avance de algunas empresas chinas en este ámbito, lo que acentúa la brecha tecnológica a nivel mundial. El secretario general alertó que el progreso de la IA se produce a una velocidad que excede la capacidad de regulación de los gobiernos y las instituciones, llegando a afirmar que el mundo está experimentando "un experimento" sin una planificación ni consentimiento adecuados.
Guterres recordó que internet demoró quince años en alcanzar mil millones de usuarios, mientras que la IA logró esa cifra en apenas dos años. Los sistemas más avanzados ya son capaces de escribir código, operar en internet y tomar decisiones con una supervisión humana cada vez más reducida. Adicionalmente, el líder de Naciones Unidas presentó la Iniciativa de Transparencia Ambiental sobre la IA, instando a las grandes empresas tecnológicas a divulgar el impacto ambiental completo de sus sistemas, incluyendo sus emisiones de carbono y su consumo de agua y suelo. También se les solicita que alimenten todos sus centros de datos con fuentes de energía renovable antes del año 2030.
Según Guterres, estas instalaciones ya consumen más electricidad que la mayoría de los países, y para 2030, podrían utilizar más energía que todos los Estados del mundo, salvo cinco, y tanta agua como la que necesitarían los 1.300 millones de habitantes del África subsahariana durante un año. El secretario general también anunció que presentará a la Asamblea General una propuesta para la creación de un Fondo Mundial para la Inteligencia Artificial, con el propósito de financiar capacidades, datos e infraestructuras de computación en las naciones en desarrollo. El Diálogo Global sobre Gobernanza de la Inteligencia Artificial congrega en Ginebra a los 193 Estados miembros de Naciones Unidas y se lleva a cabo después de la publicación del primer informe del Panel Científico Internacional Independiente sobre IA.
