GPT-6 Astra del MIT demuestra capacidad para modificar otra IA: Implicaciones y riesgos de la 'automejora recursiva'

Tecnologia
Un reciente avance en el MIT ha revelado que GPT-6 Astra, un modelo de OpenAI, es capaz de alterar directamente los parámetros internos de otra red neuronal para optimizar su rendimiento. Este hallazgo reaviva el debate sobre la 'automejora recursiva' de la IA, una preocupación previamente expresada por el director de Anthropic, Dario Amodei. Aunque no es estrictamente la automejora recursiva, esta capacidad abre nuevas vías para el desarrollo de la IA, pero también presenta desafíos significativos en términos de control y seguridad.

El pasado 12 de septiembre, Dario Amodei, director general de Anthropic, publicó un influyente ensayo titulado 'Debemos marcar el ritmo de la frontera' (We Must Pace the Frontier). En este texto, Amodei abogaba por una desaceleración en el desarrollo de los modelos de inteligencia artificial (IA) de frontera. Su objetivo era garantizar una correcta alineación con los intereses humanos y minimizar los riesgos inherentes a la implementación de las IA más avanzadas.

Un fragmento clave de su artículo subraya: "Desde este verano, la IA está avanzando mucho más deprisa impulsada principalmente por su creciente capacidad de desarrollar la siguiente generación de modelos. Esta dinámica se denomina automejora recursiva y está empezando a producirse en toda la industria, incluida Anthropic". La automejora recursiva se refiere a la habilidad de un modelo de lenguaje para desarrollar de forma autónoma nuevos modelos más avanzados que él mismo. Las declaraciones de Amodei sugieren que los modelos avanzados de Anthropic y otros laboratorios ya están contribuyendo al desarrollo de nuevos modelos de lenguaje más capaces, aunque hasta el momento ninguna de estas empresas ha demostrado públicamente haber alcanzado la automejora recursiva en su sentido más estricto.

Sin embargo, un giro inesperado ha surgido: un equipo de investigadores del MIT (Instituto Tecnológico de Massachusetts) ha demostrado que GPT-6 Astra ha logrado modificar directamente el funcionamiento de otra IA.

Investigadores del Laboratorio de Inteligencia Artificial e Informática del MIT han verificado que GPT-6 Astra, el modelo de IA de OpenAI, es capaz de alterar directamente los parámetros internos de otra red neuronal para mejorar su comportamiento. Curiosamente, estos científicos realizaron su experimento con Qwen3.5-0.8B, un modelo de lenguaje de 800 millones de parámetros desarrollado por la compañía china Alibaba. Astra consiguió mejorar significativamente el rendimiento de Qwen3.5-0.8B en operaciones matemáticas, manipulando tan solo el 0,016% de sus parámetros.

Como explican los investigadores del MIT en su artículo, es sorprendente que Astra haya logrado mejorar tanto el rendimiento matemático de Qwen3.5-0.8B mediante una modificación tan mínima. Además, resulta asombroso que esta mejora se consiguiera sin recurrir a un nuevo proceso de entrenamiento del modelo. Lo que Astra hizo fue, simplemente, modificar el valor de los pesos de Qwen. Para comprender la relevancia de esto, es útil repasar qué son los pesos en un modelo de IA.

Los grandes modelos de lenguaje son excepcionales en el reconocimiento de patrones. Esta capacidad es fundamental para su funcionamiento y se logra gracias a miles de millones de parámetros numéricos, incluidos los pesos, que el modelo ajusta durante su entrenamiento. Una IA es una vasta red de miles de millones de pequeñas conexiones. Durante el proceso de entrenamiento, la IA analiza una enorme cantidad de información y ajusta estas conexiones para aprender a identificar patrones. El valor numérico de cada una de estas conexiones determina su influencia en el comportamiento del modelo. Estos valores son los pesos.

En lugar de reentrenar a Qwen, Astra identificó un problema en su funcionamiento y manipuló directamente los valores numéricos que lo causaban. Esta es una estrategia inédita hasta ahora en manos de una IA, que abre un nuevo camino para acelerar el desarrollo de nuevos modelos, aunque no estamos ante la automejora recursiva de la que se habló anteriormente, al menos no en sentido estricto.

Que los investigadores de los laboratorios de IA dispongan de una herramienta adicional para refinar sus modelos de frontera es una buena noticia. La capacidad de un modelo de IA para intervenir directamente en otras redes neuronales puede acelerar la investigación científica, corregir problemas que antes requerían largos procesos de entrenamiento y facilitar el desarrollo de modelos más eficientes. Sin embargo, este escenario también conlleva riesgos.

Si los modelos de lenguaje más avanzados empiezan a intervenir de forma más autónoma sobre sus propios componentes o sobre otros modelos, los laboratorios de IA deberán encontrar la manera de asegurar que estas modificaciones no generen errores, vulnerabilidades difíciles de detectar o comportamientos anómalos. Además, si las mejoras se acumulan en sucesivas generaciones de modelos de IA, existe el riesgo de que resulte mucho más complejo evaluar y controlar la evolución de los modelos de frontera.