Dario Amodei ha presentado su plan 'We must pace the frontier' para moderar el avance de la inteligencia artificial, una iniciativa que cuenta con el respaldo de OpenAI y SpaceXAI. Esta propuesta se centra en controles por capacidad y evaluaciones externas, con un énfasis que sugiere un mayor beneficio para los laboratorios de IA cerrados, mientras plantea desafíos significativos para los modelos de código abierto y sus desarrolladores.
Dario Amodei ha publicado recientemente su propuesta 'We must pace the frontier', la cual busca regular el ritmo de desarrollo de la inteligencia artificial y ha sido apoyada por OpenAI y SpaceXAI. Es notable que, a lo largo de todo el ensayo, no se menciona en ningún momento la expresión 'pesos abiertos' (open weights).
Esto es relevante porque los modelos abiertos son los que están impactando más en la reducción de los costos de la IA, superando a empresas como OpenAI, Anthropic, SpaceXAI o Google. Casi todas las medidas propuestas por Amodei son fácilmente aplicables para un laboratorio con modelos cerrados, pero resultan inviables para uno que trabaja con modelos abiertos.
Las principales ideas de Amodei incluyen puntos de control basados en la capacidad, donde un modelo que alcance ciertas capacidades debería certificar propiedades específicas de alineamiento. También propone la incorporación de evaluadores externos que trabajen dentro de los laboratorios, como METR. Adicionalmente, plantea una exención antimonopolio para permitir que los laboratorios estadounidenses colaboren en temas de seguridad. Finalmente, sugiere mayores controles sobre China, como el veto a los chips avanzados y la prohibición de la destilación no autorizada de modelos.
Un modelo cerrado puede ser certificado porque su propietario mantiene el control sobre cada copia. En contraste, un modelo abierto no puede ser certificado de la misma manera; una vez que sus pesos son publicados, cualquiera puede eliminar sus salvaguardas. Este es el argumento central de un análisis de VentureBeat, que compara la propuesta de Amodei con la ley SB 1047 de California, la cual fue vetada por el gobernador Newsom debido a su impacto en los pequeños desarrolladores y el código abierto.
Algo similar ocurre con la exención antimonopolio. Aquellos que se sentarían a coordinarse serían los laboratorios de frontera de Estados Unidos. Quienes no formen parte de esta mesa no tendrían voz en la definición de los límites, pero sí se verían afectados por ellos.
En términos de cifras, el principal frente abierto ya no es Meta, sino China. El costo de DeepSeek V4 Flash es 150 veces menor que el de GPT-5.5 en términos de tokens de salida, según OpenRouter. Los mejores modelos abiertos llevan un retraso de 3 a 6 meses respecto a los cerrados, una brecha que no se está ampliando. Se han registrado 151.448 modelos derivados de Qwen en Hugging Face, lo que representa 2,6 veces la cantidad de modelos de Meta, según su informe de verano. OpenAI tuvo un margen bruto ajustado del 33% en 2025, en comparación con el 40% del año anterior, según The Information. Competir con modelos casi gratuitos no facilita la recuperación.
Mientras tanto, en Europa, Mistral ha cerrado recientemente una ronda de financiación de 3.000 millones de euros, alcanzando una valoración de 21.000 millones. Esta es la mayor ronda para una tecnológica europea, y su principal argumento de venta es precisamente la IA soberana con pesos abiertos. Un sistema de certificaciones diseñado en Estados Unidos para sus propios laboratorios dejaría a Mistral fuera de la mesa de decisiones (aunque dentro de las reglas). La Unión Europea ya ha optado por un camino diferente: la Ley de IA exime a los modelos de código abierto de ciertas obligaciones, a menos que presenten un 'riesgo sistémico'.
Sin embargo, frenar los modelos abiertos no detiene necesariamente a China. Los pesos de Qwen y DeepSeek ya están distribuidos en millones de servidores y discos duros en todo el mundo. Lo que sí se frena es a los desarrolladores de modelos abiertos en Estados Unidos y Europa, precisamente aquellos que podrían competir con esos modelos chinos. Esta situación refleja la misma lógica de captura regulatoria que se observó con Rockefeller. En este caso, el competidor que queda excluido no es una pequeña petrolera, sino un modelo que cualquiera puede descargar gratuitamente y ejecutar en un ordenador personal.
Si este plan progresa, el debate futuro no será sobre si frenar o no la IA, sino sobre quién quedará dentro del perímetro de control y quién establecerá sus límites. Actualmente, quienes están diseñando estos límites son, de forma coincidente, aquellos que más perderían con una IA abierta y de bajo costo.
