Líderes de la industria de la IA como Dario Amodei de Anthropic proponen ralentizar el desarrollo de modelos avanzados para comprender mejor sus riesgos. Sin embargo, esta idea enfrenta un complejo dilema geopolítico, especialmente con China, y la reticencia de los gobiernos y las empresas a ceder su ventaja competitiva. La situación refleja un 'dilema del prisionero' a escala global, donde la desconfianza mutua impide la cooperación.
Dario Amodei, CEO de Anthropic, generó debate al sugerir una desaceleración en el desarrollo de modelos de inteligencia artificial avanzados para evaluar mejor sus riesgos. Esta propuesta ha sido respaldada por figuras prominentes como Sam Altman, Elon Musk, Demis Hassabis y Satya Nadella, quienes también han expresado la necesidad de una reflexión. No obstante, existe una considerable distancia entre la intención y la implementación.
Amodei ha señalado que el 'dilema más difícil' de su propuesta reside en China. Si las empresas de IA en Estados Unidos disminuyen su ritmo de desarrollo mientras las chinas continúan avanzando, EE. UU. podría perder su posición de liderazgo en una tecnología de creciente importancia estratégica y potencial militar. Aunque Amodei considera que a largo plazo serán necesarios acuerdos internacionales para moderar el ritmo, reconoce los fuertes incentivos para que las naciones y empresas rivales busquen superarse mutuamente.
El expresidente de Estados Unidos ha rechazado la idea de frenar el avance de la IA, argumentando que 'quien gane la IA, gana'. Si bien no descarta la creación de salvaguardias, se opone a detener el desarrollo de modelos avanzados, ya que esto podría permitir a China reducir la brecha o incluso superar a EE. UU. en este campo. La postura de Amodei parece haber reforzado el argumento gubernamental: si la IA puede alcanzar el poder que Anthropic sugiere, EE. UU. no puede permitirse ralentizar su progreso.
Curiosamente, China también ha manifestado interés en establecer regulaciones. Xi Jinping ha intervenido en el debate, abogando por un marco global de gobernanza de la IA 'basado en el consenso' y ha presentado esta propuesta a los países BRICS (Brasil, Rusia, India y China) para fortalecer su alianza. Además, China plantea la creación de una comunidad de IA de código abierto dentro de este bloque, lo que indica un discurso similar al de EE. UU., aunque no se articule explícitamente. Un medio estatal chino ha interpretado las declaraciones de Amodei como una táctica de la Guerra Fría, mientras que otros sugieren que está empleando una técnica similar a la utilizada por instituciones religiosas durante siglos.
Una de las críticas a las propuestas de Amodei es que los grandes laboratorios de IA no necesariamente detendrían el desarrollo de modelos avanzados, sino que restringirían su acceso. El analista Ben Bajarin predice la existencia de modelos de ciberseguridad frontera reservados para gobiernos y grandes corporaciones, siendo 'Mythos' un ejemplo. Esto implicaría que la carrera por la IA continuaría, pero una parte cada vez mayor se desarrollaría de forma confidencial.
La situación plantea un 'dilema del prisionero'. Tanto EE. UU. como China podrían tener un interés común en prevenir el surgimiento de una IA incontrolable, lo que debería llevarlos a moderar el ritmo de desarrollo. Sin embargo, la decisión racional para cada actor es seguir avanzando si no hay garantías de que el rival se detendrá. Este escenario ilustra el clásico dilema donde la falta de cooperación individual va en contra del interés colectivo.
Las empresas enfrentan un problema similar. La reflexión de Amodei y Anthropic es relevante para el público, pero en la práctica, si quisieran retrasar el lanzamiento de su próximo modelo Claude, podrían hacerlo sin impedimento. El emprendedor e inversor David Sacks ha criticado esta postura de Amodei y Altman, argumentando que si realmente desean ralentizar el progreso, pueden hacerlo sin esperar una regulación. No obstante, Anthropic tendría que asumir que competidores como OpenAI, Google, xAI, Meta o los laboratorios chinos aprovecharían ese tiempo para igualarlos o superarlos. Si varias empresas decidieran conjuntamente no competir, podrían surgir cuestionamientos antimonopolio. El resultado es que todos buscan ser prudentes, pero ninguno está dispuesto a comprometerse a fondo.
El desafío también radica en verificar una verdadera desaceleración. Durante la Guerra Fría, EE. UU. y la Unión Soviética podían negociar límites sobre armamentos y establecer mecanismos de inspección. Con la IA, controlar el ritmo de entrenamiento es mucho más complejo. Aunque el acceso a recursos como chips o energía podría ofrecer puntos de control, el software mejora constantemente, los algoritmos son más eficientes y los modelos pueden entrenarse en sistemas distribuidos. La confianza mutua entre EE. UU. y China en este ámbito parece extremadamente difícil.
