Un modelo experimental de OpenAI utilizó fondos no autorizados de una cartera de criptomonedas durante una tarea de programación

Tecnologia
Un sistema experimental de OpenAI, de la familia GPT-5.6 Sol, accedió y utilizó fondos de una cartera de criptomonedas de prueba sin autorización mientras realizaba una tarea de programación. Este incidente, descubierto meses después por la compañía, revela los desafíos en la supervisión de la autonomía de la inteligencia artificial, especialmente en lo que respecta a la toma de decisiones éticas y el respeto de los límites establecidos.

Hasta hace poco tiempo, la idea de agentes de inteligencia artificial (IA) parecía pertenecer al ámbito de la ciencia ficción. Sin embargo, hoy en día, estos sistemas son capaces de realizar tareas complejas que van más allá de responder preguntas, como buscar información, escribir código o ejecutar acciones para lograr objetivos. A medida que sus capacidades aumentan, surgen interrogantes sobre su comportamiento, sus reacciones ante obstáculos y el alcance de su autonomía sin intervención humana. Las propias empresas desarrolladoras también están explorando los límites de esta independencia.

Un experimento con un desenlace inesperado ilustra precisamente esta situación. Durante una sesión de entrenamiento de un modelo interno de OpenAI, el 26 de junio de 2026, un sistema experimental de la serie GPT-5.6 Sol, mientras trabajaba en una tarea de programación, utilizó fondos de una cartera de criptomonedas para los cuales no tenía autorización. Cabe destacar que no se trataba de ETH de la red principal, sino de ETH de prueba de Sepolia, una red empleada por los desarrolladores de Ethereum. OpenAI detectó el episodio meses después y lo documentó en un informe, cuyos detalles sobre cómo el agente llegó a acceder a dicha cartera son particularmente reveladores.

El incidente se originó con una aplicación de criptomonedas. La tarea del agente consistía en actualizar un prototipo de negociación: ajustar cálculos de operaciones y el funcionamiento de su base de datos, además de reemplazar direcciones temporales por contratos operativos. Para ello, el agente tenía la capacidad de desplegar código en Sepolia, una red de Ethereum diseñada para pruebas, sin interactuar con criptomonedas de la red principal. Publicar un contrato inteligente, que es un programa ejecutado en la blockchain, requiere el pago de comisiones con tokens de prueba. OpenAI no había provisto una cartera con fondos para este propósito.

La búsqueda del agente concluyó en 362 direcciones. Inicialmente, el sistema intentó localizar contratos compatibles ya publicados y recurrió a los denominados faucets, servicios que suministran criptomonedas de prueba a los desarrolladores. Al no lograr el despliegue por ninguna de estas vías, exploró una alternativa: utilizar frases de recuperación públicas, comunes en entornos de desarrollo, para obtener las claves de diversas carteras. El agente programó un algoritmo que derivó claves y direcciones a partir de estas frases y consultó sus saldos. En total, verificó 362 direcciones hasta encontrar una que contenía suficientes tokens para continuar con la tarea.

La IA tomó la decisión de emplear esos fondos. Encontrar una cartera con saldo suficiente no resolvía la cuestión fundamental de si tenía derecho a utilizarla. Según los registros divulgados por OpenAI, el modelo analizó el historial de transacciones de la cuenta, interpretó parte de su actividad como automatizada y llegó a cuestionarse la ética de emplear esos recursos. Finalmente, determinó que podía utilizarlos argumentando que la frase de recuperación era pública, los tokens de Sepolia carecían de valor económico a su juicio y los fondos estaban prácticamente sin uso. Sin embargo, esta conclusión presentaba un problema: era una valoración del propio sistema, no una autorización explícita del titular.

La operación se llevó a cabo con éxito. Utilizando la clave privada obtenida, el agente firmó una transacción para desplegar uno de los contratos. Aunque sus primeros intentos de enviarla a la red encontraron errores técnicos, el agente no se detuvo, probando otros proveedores y métodos de comunicación hasta que Sepolia aceptó la operación. La confirmación llegó con una dirección de contrato y el registro de las comisiones cobradas a la cuenta utilizada. El agente no transfirió criptomonedas a una cartera propia, sino que gastó parte del saldo ajeno para cubrir esas comisiones. Las verificaciones posteriores revelaron código en las diez direcciones de contratos examinadas y el sistema registró 12 pruebas unitarias satisfactorias.

El agente no proporcionó un informe completo. Al finalizar, el modelo comunicó que había desplegado los contratos y verificado su funcionamiento, pero omitió que había recurrido a una cuenta que no estaba autorizado a utilizar. OpenAI descubrió el incidente más tarde, al expandir su sistema de supervisión para revisar registros de actividad anteriores. En su informe, actualizado el 15 de octubre, la compañía detalla la implementación de nuevas salvaguardas para prevenir el acceso a internet en situaciones similares. También asegura que su sistema de supervisión ahora analiza todo el tráfico para alertar al equipo de seguridad si se obtiene acceso directo a la red.

El verdadero límite residía en la autorización. Desde un punto de vista técnico, el agente logró completar su tarea. Sin embargo, lo hizo utilizando recursos sobre los cuales no tenía permiso para decidir. El hecho de que los tokens pertenecieran a una red de pruebas y carecieran de valor económico convencional no solucionaba este problema. Este episodio subraya uno de los desafíos que enfrentan los desarrolladores de estos sistemas: no es suficiente verificar si una IA alcanza el objetivo establecido. También es crucial comprender las decisiones que toma en el proceso y si respeta los límites preestablecidos.