Demis Hassabis, cofundador de Google DeepMind y reconocido con el Premio Nobel, ha lanzado una advertencia crucial sobre la rápida evolución de la inteligencia artificial, señalando que la velocidad de su avance supera nuestra comprensión. Propone la creación de un organismo en Estados Unidos para evaluar y supervisar los modelos de IA más avanzados, anticipándose a posibles riesgos como ciberseguridad y amenazas biológicas. Sus palabras subrayan la urgencia de establecer controles antes de que la tecnología alcance un punto crítico.
Antes de noviembre de 2022, el mercado tecnológico se movía de manera diferente. La inteligencia artificial ya estaba presente en diversas aplicaciones, pero no dominaba la narrativa de las marcas ni las presentaciones de la industria. Menos de cuatro años después, es difícil encontrar un fabricante o plataforma importante que no haya reestructurado su estrategia en torno a la IA. Las inversiones masivas en chips, servidores y centros de datos, junto con la búsqueda de asegurar el suministro energético, demuestran la magnitud de esta carrera. Gobiernos como Estados Unidos y China también apoyan el desarrollo de infraestructura y capacidad de computación, en una competencia económica y estratégica. En medio de esta aceleración, uno de los principales actores ha advertido que el progreso es más rápido de lo que se comprende.
Esta advertencia proviene de Demis Hassabis, cofundador y consejero delegado de Google DeepMind, uno de los laboratorios líderes en el desarrollo de sistemas avanzados de inteligencia artificial. Bajo su dirección surgieron proyectos como AlphaGo, que venció a un campeón mundial de Go, y AlphaFold, capaz de predecir estructuras de proteínas. En 2024, Hassabis y John Jumper fueron galardonados con la mitad del Premio Nobel de Química por su trabajo en la predicción de estructuras proteicas. Sus palabras tienen un peso significativo debido a su doble rol: constructor de la tecnología y solicitante de mecanismos para contener sus riesgos.
Hassabis se basa en la convicción de que la inteligencia artificial general (AGI), definida como un sistema con todas las capacidades cognitivas del cerebro humano, podría llegar en pocos años. No lo presenta como una certeza, sino como una posibilidad inminente que requiere preparación antes de que la tecnología alcance ese nivel. Sus preocupaciones incluyen ciberseguridad, posibles riesgos biológicos y nucleares, y la emergencia de sistemas cada vez más autónomos, capaces de actuar con menos supervisión y de mejorar sus propias capacidades.
En un extenso artículo, el directivo defiende simultáneamente dos ideas: el potencial extraordinario de la inteligencia artificial para la ciencia, la medicina y la economía, y la necesidad de establecer controles y mecanismos de supervisión. No propone esperar a que surja una amenaza concreta para reaccionar, ya que las medidas podrían llegar demasiado tarde. Antes de detallar el organismo y las evaluaciones necesarias, expone su diagnóstico fundamental: "En estos momentos estamos atrapados en una carrera comercial y geopolítica extremadamente intensa que se desarrolla en varios niveles. Aunque estas dinámicas competitivas impulsan rápidos avances y aceleran sus extraordinarios beneficios, los progresos en la frontera de la IA están superando nuestra comprensión de la tecnología. Nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora, y ni siquiera los expertos están de acuerdo. Cuando existe un grado tan elevado de incertidumbre y hay tanto en juego, avanzar con un optimismo prudente es la estrategia sensata y correcta."
La solución que propone Hassabis es la creación en Estados Unidos de un organismo especializado en evaluar los modelos de inteligencia artificial más avanzados. Sugiere una asociación público-privada o una entidad autorregulada con supervisión federal, dirigida por una junta que incluiría especialistas independientes y representantes del ecosistema de código abierto. Esta institución definiría los umbrales para considerar un sistema como modelo de frontera y diseñaría evaluaciones sobre ciberseguridad, amenazas biológicas y otros ámbitos de alto riesgo, además de pruebas para detectar intentos de eludir salvaguardas o señales de engaño. Inicialmente, los laboratorios compartirían voluntariamente sus modelos hasta 30 días antes de su lanzamiento, una cooperación que podría volverse obligatoria. Una vez validado el protocolo, cualquier modelo de frontera debería aprobar la evaluación antes de ingresar al mercado estadounidense. Las pruebas se revisarían periódicamente para actualizarlas y medir nuevas capacidades, con auditores independientes que ayudarían a expandir el sistema de control. El planteamiento va más allá: si la gravedad de los riesgos lo justificara, este marco podría usarse para coordinar una ralentización del desarrollo entre los principales laboratorios.
La inquietud de Hassabis no es un caso aislado. Geoffrey Hinton ha expresado que no se sabe si se podrá mantener el control de sistemas más inteligentes que los humanos, mientras que Yoshua Bengio demanda más investigación y mecanismos específicos de supervisión. En 2023, Elon Musk firmó una carta abierta solicitando una pausa de al menos seis meses en el entrenamiento de sistemas de IA más potentes que GPT-4, aunque meses después lanzó xAI y entró directamente en este mercado. Muchas de estas voces coinciden en pedir cautela, pero no hay consenso sobre la probabilidad de perder el control. El desenlace de la historia de la inteligencia artificial aún no está escrito, aunque sus primeros efectos ya han transformado la relación con la tecnología y las decisiones de sus desarrolladores. Queda por ver si el organismo propuesto por Hassabis se materializaría, si sus evaluaciones serían efectivas y si los laboratorios y gobiernos aceptarían someterse a ellas cuando entren en conflicto con sus intereses. También es posible que algunos de los riesgos planteados estén exagerados o no lleguen a materializarse. Por ahora, su propuesta ofrece una hoja de ruta concreta a un debate donde aún prevalecen más las incógnitas que las certezas.
