Investigadores han desarrollado un método para que los agentes de inteligencia artificial mejoren su propio código e instrucciones de manera más eficiente. El sistema permite a estos agentes prever si una modificación podría generar problemas, ofreciendo una oportunidad de revisión antes de aplicar los cambios. Este enfoque busca optimizar el proceso de mejora de la IA, reduciendo la aparición de nuevos errores y orientando los esfuerzos de perfeccionamiento.
En el ámbito del desarrollo de software, cualquier modificación orientada a la mejora conlleva el riesgo inherente de introducir nuevas fallas. Incluso un ajuste menor tiene el potencial de alterar el comportamiento de un programa, lo que significa que proponer una mejora y validar su funcionamiento son tareas distintas. Este desafío se intensifica al considerar agentes de inteligencia artificial capaces de intervenir en su propio código e instrucciones para ejecutar tareas. Aunque pueden intentar perfeccionar sus herramientas, cada intento plantea la misma interrogante: ¿cuándo una modificación es beneficiosa y cuándo podría generar un problema inexistente previamente? El reto radica en mejorar sin incurrir en fallos.
Un equipo de investigadores de la Universidad de Virginia, Microsoft Research y la Universidad de Tsinghua ha concebido un sistema para otorgar a estos agentes una oportunidad adicional antes de implementar sus modificaciones. La propuesta, detallada en un estudio publicado en arXiv, consiste en que un sistema intente predecir si un cambio podría deteriorar los resultados y, al detectar tal riesgo, permita una revisión. No se trata de reentrenar la inteligencia artificial, sino de optimizar los programas y las instrucciones que emplea en su operación. El objetivo no es erradicar todos los errores, sino guiar de forma más efectiva los esfuerzos de mejora.
Así se modifican los agentes.
Imaginemos dos agentes de inteligencia artificial colaborando. El primero se dedica a resolver tareas, mientras que el segundo busca formas de optimizar su funcionamiento, modificando el código y las instrucciones que ambos utilizan. Este último también tiene la capacidad de modificar su propio software. Este es el principio de HyperAgents, el sistema que sirve de base para la investigación y que, además, almacena los resultados de versiones anteriores para orientar futuras modificaciones. Este no es el primer esfuerzo en esta dirección: en 2025, Sakana AI presentó Darwin Gödel Machine, un proyecto que ya exploraba cómo un agente podía mejorar mediante la alteración de su propio código.
Anticipar un problema antes de probar.
Para determinar cuándo es conveniente revisar una modificación, los investigadores integraron el Improvement Dynamics Model (IDM). Este componente analiza el cambio propuesto y utiliza la experiencia acumulada para estimar sus posibles repercusiones. Puede diferenciar, por ejemplo, entre una tarea que finalizaría con una respuesta incorrecta y otra que ni siquiera se completaría. Si prevé un empeoramiento, permite una revisión adicional antes de evaluar la versión resultante. Durante una prueba, ciertas instrucciones quedaron fuera de sus comillas correspondientes, generando un error de sintaxis. El agente había identificado el problema, pero agotó sus llamadas a herramientas antes de poder corregirlo. El predictor anticipó que las tareas probablemente quedarían incompletas y propició otra revisión. Tras corregir el código, la nueva versión logró resolver 11 tareas. El sistema lleva a cabo la evaluación final incluso si la última predicción es desfavorable.
Las pruebas muestran una mejora.
Los investigadores no se limitaron al ejemplo de las comillas: evaluaron los agentes con 166 tareas de programación que no habían sido utilizadas durante el proceso de mejora ni para la selección de versiones. Para considerar una tarea resuelta, el sistema debía proponer una modificación de código que superara las pruebas pertinentes. El agente inicial obtuvo una tasa de éxito de aproximadamente el 16%, mientras que las versiones seleccionadas de HyperAgents, sin el nuevo predictor, alcanzaron una mediana cercana al 22%. Con el método de predicción, esta cifra ascendió a casi el 30%. Los resultados, obtenidos a partir de cinco ejecuciones por configuración, sugieren una mejora dentro de las condiciones del experimento.
Un predictor que también aprende.
Existe una segunda capacidad digna de mención: el sistema encargado de anticipar los resultados también puede perfeccionarse. Cada cinco rondas, el agente responsable de las modificaciones propone cambios en su funcionamiento, que solo se incorporan si superan una comprobación posterior. Los investigadores también quisieron determinar si esa experiencia podría aplicarse a tareas diferentes. Tras perfeccionar el predictor con trabajos de predicción de aceptación de artículos científicos y diseño de recompensas para robots simulados, lo utilizaron para guiar la mejora de nuevos agentes encargados de calificar soluciones matemáticas. En 100 ejercicios reservados para la evaluación final, estos agentes coincidieron exactamente con las calificaciones de expertos en una mediana del 55% de los casos, frente al 51% con un predictor inicial y el 47% de HyperAgents.
Mejor rendimiento no significa menor coste.
También es crucial considerar el coste asociado a estas mejoras. En las pruebas de programación, el nuevo método requirió una media estimada de 170 millones de tokens para completar 40 rondas, mientras que HyperAgents consumió aproximadamente 49 millones. Nos referimos a las unidades de texto que los modelos de inteligencia artificial procesan o generan. La diferencia es considerable, aunque no abarca el panorama completo. Cuando los investigadores igualaron el presupuesto de tokens de ambos sistemas, el método con predicciones continuó obteniendo mejores resultados a lo largo del proceso, con una ventaja del 10,9% en una medida del rendimiento acumulado. Sin embargo, el estudio no proporciona una comparación exhaustiva del coste computacional total.
Lo que todavía queda por demostrar.
Una cosa es superar pruebas de programación y otra muy distinta es confiar a un sistema las modificaciones de un software de uso cotidiano. Los experimentos de esta investigación, disponible como prepublicación, no garantizan que el método funcione de la misma manera en proyectos reales ni que elimine la necesidad de supervisión humana. Tampoco demuestran que estos agentes puedan reemplazar a los profesionales encargados de desarrollar o evaluar programas. No obstante, sí evidencian que anticipar los posibles resultados puede ser de gran ayuda para orientar las modificaciones.
Volvemos así al dilema inicial desde otra perspectiva: para optimizar su propio funcionamiento, estos agentes requieren algo más que la mera capacidad de modificar instrucciones y código.