La advertencia sobre los peligros de la inteligencia artificial para la humanidad no es un fenómeno reciente. Desde principios de los 2000, un movimiento conocido como 'doomer' ha alertado sobre los riesgos existenciales de la IA, ganando notoriedad con personalidades influyentes y publicaciones clave. Este artículo explora la evolución de estas preocupaciones, desde sus inicios hasta el discurso alarmista actual post-ChatGPT.
“Urge regular la inteligencia artificial antes de que se convierta en un peligro para la humanidad”. Esta frase, que bien podría ser actual, fue pronunciada por Elon Musk en 2017, mucho antes de la existencia de ChatGPT o Claude. La idea de que la IA pueda descontrolarse y amenazar nuestra existencia no es nueva; los defensores del 'AI doom' han emitido advertencias similares durante más de una década, aunque solo ahora han captado la atención global.
El movimiento por la seguridad de la IA precede a Anthropic y OpenAI. Sus orígenes se remontan al año 2000 con la formación del MIRI (Machine Intelligence Research Institute), que en 2005 comenzó a centrarse en los riesgos existenciales de la IA.
En 2009, Eliezer Yudkowsky, cofundador del MIRI, contribuyó a la creación de LessWrong, una comunidad obsesionada con la amenaza de una singularidad tecnológica. Aquí convergieron ideas del transhumanismo, que busca mejorar al ser humano mediante la tecnología, y el altruismo eficaz, que utiliza herramientas cuantitativas para identificar las formas más eficientes de generar el mayor bien posible.
De esta confluencia surgió una visión clara: la inteligencia artificial superará inevitablemente a los humanos y, si no se alinea con nuestros objetivos, representará una amenaza para la supervivencia de la humanidad.
Estas ideas calaron en las élites tecnológicas, y paralelamente, figuras prominentes comenzaron a donar millones al movimiento. Elon Musk, por ejemplo, donó 10 millones de dólares en 2015 para becas destinadas a formar investigadores de IA enfocados en construir tecnología segura.
También en 2015, Elon Musk firmó un manifiesto junto a personalidades como Demis Hassabis (DeepMind), Geoffrey Hinton, Yann LeCun, Ilya Sutskever, Steve Wozniak y Stephen Hawking. El manifiesto, publicado por el instituto Future of Life, una organización sin ánimo de lucro dedicada a advertir sobre los riesgos de la IA, pedía más investigación en seguridad y que “Nuestros sistemas de inteligencia artificial deben hacer lo que nosotros queramos que hagan”.
Bill Gates se unió a la discusión, expresando su preocupación por la posible creación de una superinteligencia: “Primero, las máquinas harán muchos trabajos por nosotros y no serán súper inteligentes. Eso debería ser positivo si lo manejamos bien. Sin embargo, unas décadas después, las inteligencias serán suficientemente fuertes para convertirse en una preocupación”.
En aquel entonces, las advertencias de figuras tecnológicas importantes eran más cautelosas y carecían de la urgencia o el catastrofismo que surgiría años después.
El 'doomerismo' experimentó una etapa de calma, pero en 2023 resurgió con fuerza tras la publicación de dos cartas abiertas, coincidiendo con el auge del desarrollo de la IA y el lanzamiento de GPT-4.
La primera carta, nuevamente publicada por Future of Life, instaba a detener el entrenamiento de nuevos modelos durante al menos seis meses. Entre sus firmantes estaban Steve Wozniak, Elon Musk, Jaan Tallinn y Max Tegmark.
Meses después, en mayo, una segunda carta, publicada por la ONG Center for AI Safety, introdujo la palabra “extinción”. La frase exacta decía: “Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear”. Entre sus firmantes se encontraban Geoffrey Hinton, Dario Amodei, Demis Hassabis e incluso Sam Altman.
Geoffrey Hinton, premio Nobel de Física, ha sido una de las voces más pesimistas, insistiendo en los riesgos de una IA que supere a los humanos.
En 2025, Eliezer Yudkowsky y Nate Soares, fundador y actual presidente del MIRI, respectivamente, publicarán el libro 'If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All' (Si alguien la construye, todos moriremos: por qué una IA sobrehumana nos mataría a todos). El título refleja el tono cada vez más alarmista del movimiento.
La declaración reciente de Evan Hubinger, jefe de alineamiento de Anthropic, de que existe un 10% de probabilidades de que la IA acabe con la humanidad, ha generado gran controversia. Hubinger es responsable de la seguridad de uno de los principales laboratorios de IA y su experiencia en el MIRI y el Center for AI Safety le otorga un conocimiento relevante del tema.
Este grupo ha repetido las mismas consignas durante más de una década: una IA que superará al ser humano, un riesgo existencial que exige acción inmediata y un pequeño grupo que asegura tener un plan para evitar el apocalipsis. Si bien existen riesgos reales, como han demostrado incidentes con modelos de IA que pueden causar daños, la alineación con nuestros objetivos es crucial. Los modelos de IA son una realidad, y con la automejora recursiva, los riesgos podrían multiplicarse. Sin embargo, pasar de esto a hablar de extinción en menos de 10 años es un salto significativo. Este tipo de mensajes apocalípticos, aunque atraen atención, pueden desviar el foco de los verdaderos riesgos.
