Una sorprendente admisión circula entre los ingenieros de inteligencia artificial: ni siquiera los equipos que desarrollan los modelos más avanzados comprenden completamente su funcionamiento interno. Esta idea, compartida por figuras clave de la industria y la academia, subraya la aparición de 'capacidades emergentes' no programadas, generando un debate sobre si es una advertencia científica genuina o una estrategia de marketing.
Una idea sorprendente y casi confesional está circulando entre los ingenieros dedicados a la inteligencia artificial (IA). Dario Amodei, director general de Anthropic, la planteó en un ensayo de abril de 2025, reconociendo que ni siquiera su equipo entiende plenamente cómo funcionan sus modelos de IA. Lejos de ser una simple ocurrencia o marketing, esta declaración proviene del director general de una de las compañías de IA más valiosas del mundo, admitiendo por escrito que su equipo no comprende completamente el mecanismo interno de su propio producto.
Lo más revelador es que Amodei no está solo. Geoffrey Hinton, premio Nobel de Física en 2024 y una de las figuras clave en el desarrollo del aprendizaje profundo, ha expresado esencialmente lo mismo con otras palabras: él solo aportó el algoritmo de aprendizaje; lo que ocurre después dentro de la máquina es incomprensible para cualquiera, incluso para su creador. Por su parte, Chris Olah, cofundador de Anthropic y líder de su equipo de interpretabilidad, ha descrito durante años las redes neuronales como un andamiaje sobre el cual los circuitos crecen de forma autónoma, sin un diseño directo.
Es crucial considerar que estamos ante tres perfiles radicalmente distintos: un director general con intereses comerciales evidentes, un académico retirado de la industria y un investigador que se dedica activamente a este problema. A pesar de estas diferencias, los tres convergen en la misma idea, que además posee un nombre técnico: capacidades emergentes. Estas son habilidades que el modelo no poseía a menor escala y que aparecen súbitamente al aumentar su tamaño, sin que nadie las haya programado ni anticipado.
Surge la sospecha razonable de si esto es una advertencia científica o un argumento de venta. Anthropic ha construido gran parte de su identidad de marca alrededor de la seguridad y la interpretabilidad, diferenciándose de competidores como OpenAI o Google DeepMind, que priorizan el despliegue rápido. Que su director general publique un ensayo alarmista sobre el escaso entendimiento de la IA, mientras la compañía ha promovido durante años ser muy cuidadosa con sus modelos, encaja perfectamente con un relato comercial: cuanto más misteriosa y poderosa parezca la criatura, más valiosa resulta la empresa que afirma estar domesticándola.
Sin embargo, esta interpretación comienza a debilitarse al aplicarla a Hinton. Este científico dejó Google en 2023 precisamente para poder hablar sin las ataduras de un sueldo corporativo, no recibe pagos de ninguna compañía de IA generativa y su discurso público es sistemáticamente más pesimista que el de cualquier ejecutivo del sector. No tiene ningún producto que necesite vender ni ninguna ronda de financiación que justificar. Si esto fuera puramente marketing, sería un marketing que no beneficia a nadie en concreto, y menos a él.
Por otro lado, no debemos pasar por alto el trabajo de Chris Olah, cuya contribución no se limita a declaraciones, sino a la publicación de artículos científicos. Los circuitos de inducción, los saltos de aprendizaje que aparecen de repente durante el entrenamiento, los millones de características monosemánticas extraídas de Claude 3 Sonnet: todo esto constituye evidencia técnica acumulada durante años, no una frase aislada en una entrevista. Cuando Olah describe el interior de un modelo como matrices de miles de millones de números de las que no entendemos del todo cómo emergen las tareas cognitivas, no está vendiendo nada. Está describiendo, con una evidente frustración, el estado real de un campo que él mismo cofundó.
Por este motivo, la explicación más plausible no es la conspirativa, sino la más incómoda de las dos: probablemente es cierto. Las personas que están construyendo los modelos de IA más potentes del mundo parecen no tener un mapa preciso de cómo y por qué esos sistemas adquieren capacidades para las que nadie los diseñó explícitamente. Esto significa, sencillamente, que la convergencia de un ejecutivo con incentivos para exagerar la alarma, un académico sin ningún incentivo comercial y un investigador que lleva una década documentándolo empíricamente apunta menos a una campaña orquestada y más a un consenso incómodo dentro del propio campo.
La pregunta que queda en el aire, entonces, no es si nos están vendiendo humo. Es qué sucede cuando seguimos escalando sistemas cuyo interior seguimos sin poder explicar del todo, mientras la industria entera admite, casi al unísono, que corre más rápido de lo que comprende.
