Yann LeCun, una figura prominente en el campo de la inteligencia artificial, ha criticado duramente la narrativa que califica a la IA como intrínsecamente peligrosa, una postura frecuentemente adoptada por empresas como Anthropic y OpenAI. LeCun argumenta que esta visión es un "oscurantismo medieval" y que tales afirmaciones son más una estrategia de marketing que una realidad. Su perspectiva enfatiza que la IA es fundamentalmente una herramienta para diseminar conocimiento y que las restricciones sobre su uso buscan más el control que la seguridad.
La afirmación de que un modelo de IA es tan peligroso que su lanzamiento público sería un error precede incluso a las primeras versiones de ChatGPT. Esta narrativa de la IA "peligrosa" parece tener más de estrategia de marketing que de veracidad, aunque es un discurso que compañías como Anthropic y OpenAI emplean cada vez que presentan un nuevo modelo.
Porque la IA no es más que una herramienta (aunque consuma recursos globales), y Yann LeCun tiene un mensaje para esas empresas:
Si realmente creen que es peligrosa, están inmersos en el oscurantismo medieval.
La narrativa del miedo es infundada
El 10 de abril, Anthropic lanzó Claude Mythos Preview, presentándolo como el modelo de IA más avanzado hasta la fecha, una afirmación que solo ellos podían hacer, dado el acceso limitado a dicho modelo. Evaluaciones y pruebas realizadas por entidades como Mozilla confirmaron su notable capacidad, especialmente en áreas como la ciberseguridad. No era revolucionario, pero sí una herramienta muy competente.
La preocupación era que, de caer en manos equivocadas, esta herramienta podría utilizarse para comprometer sistemas y descubrir vulnerabilidades, algo que las empresas con acceso ya explotaban. Anthropic lo describió como "demasiado potente", una retórica del miedo que incluso el Gobierno de Estados Unidos reforzó al prohibir que no ciudadanos estadounidenses, incluidos empleados de Anthropic, utilizaran el modelo comercial Fable 5.
Según el reconocido "padrino" de la IA, todo esto es una tontería.
Yann LeCun es una de las personalidades más destacadas en el ámbito de la inteligencia artificial. En 2013, la entonces Facebook lo designó para dirigir su departamento de IA. En la década de los 80, LeCun desarrolló un algoritmo crucial para el entrenamiento de redes neuronales artificiales, forjando una carrera prolífica tanto en el ámbito académico como en el sector privado.
Durante su participación en Vivatech, LeCun mantuvo un diálogo con Steven Levy, periodista de Wired, donde abordaron temas cruciales sobre el presente y futuro de la IA. En este foro, LeCun articuló claramente su perspectiva sobre los actuales modelos de lenguaje (LLMs) y su opinión sobre la propagación de una narrativa basada en el miedo.
Levy y Yann conversaron sobre el modelo chino, más orientado al código abierto, cuando LeCun señaló que "mucha gente, especialmente aquellos cercanos al gobierno de Estados Unidos, considera que la IA no puede ser de código abierto porque ese espacio ya está dominado por las compañías chinas. Son modelos eficientes y económicos, algunos incluso gratuitos, y en este contexto, tenemos empresas como Anthropic".
LeCun no ha dudado en el pasado en criticar a sus competidores en este campo. En esta ocasión, argumentó que "Anthropic, y algunos otros, constituyen un grupo de presión que, en esencia, busca evitar que la IA sea de código abierto, bajo la creencia de que es una tecnología intrínsecamente peligrosa". Luego, Yann procedió a enumerar avances que sí han transformado la historia de la humanidad, como aquellos que dieron origen a nuevas eras. Pero, ¿la IA?
"Así que, ¿qué es la IA hoy? Como mínimo, es un medio para difundir conocimiento. Por ahora, no es una forma de generar nuevo conocimiento, y su funcionamiento se basa en repositorios de conocimiento humano, facilitando el acceso a estos. En esencia, es una herramienta para que las personas sean más informadas al poder acceder al saber humano".
Para LeCun, estos LLMs son como una Wikipedia mejorada, y fiel a su estilo, no escatimó críticas a sus rivales en la feria parisina. "Si pretendes bloquear una herramienta por considerarla muy peligrosa, estás inmerso en el oscurantismo medieval", afirmó el académico. Levy complementó la idea, señalando que "el acto de presentarnos una herramienta y luego retirarla de nuestras manos es un comportamiento más propio de la Iglesia Católica al calificar a Galileo de 'hereje' por sus teorías".
Para LeCun, el meollo del asunto no es el "peligro", sino el "control". "Esta es la forma en que ellos controlan el mensaje y lo que la gente puede o no hacer con sus herramientas. Si adquieres un bolígrafo, no esperas que la compañía vendedora te dicte qué puedes escribir con él. Existe un límite en lo que las empresas pueden decirte sobre el uso de sus propias herramientas".
Finalmente, LeCun no considera que las compañías con modelos propietarios (o cualquier servicio propietario) deban tener la potestad de dictar cómo se utilizan las herramientas que se licencian o cuándo pueden restringir el acceso. Esto se observa incluso en videojuegos que las empresas eliminan de los dispositivos de los usuarios cuando lo estiman oportuno, aunque este es un tema distinto.
Yann concluyó su argumentación señalando que compartir conocimiento es parte de la cultura, lo cual es positivo, y aunque exista una faceta negativa (como la radicalización a través del intercambio cultural), no se debe controlar lo que la gente puede hacer con las herramientas de IA. "Hay una gran arrogancia y un complejo de superioridad en la idea de que solo unos pocos son capaces de controlar la IA y exhibirlo a las masas sin acceso".
Si los LLMs no son la solución, ¿cuál es?
En su intervención, LeCun fue claro al afirmar que, para él, los LLMs no representan el "Santo Grial", a diferencia de lo que pregonaban varios CEOs de empresas de IA en los paneles de Vivatech. Estos modelos de lenguaje son, a su juicio, una "Wikipedia" potenciada y un "teclado predictivo" avanzado. LeCun reconoce que los LLMs destacan en dos áreas: matemáticas y programación, pero la verdadera revolución, según él, llegará con los agentes auténticos y la IA física.
Para LeCun, lo que no se está logrando con los LLMs son dos aspectos clave. "El primero es que, si se quiere construir un sistema agéntico como los que todo el mundo menciona, no se puede hacer fiable sin que tenga la capacidad de anticipar el resultado y las consecuencias de sus acciones. La mayoría de nosotros poseemos esta capacidad. Quizás algunos políticos no".
"Pero nosotros somos indudablemente capaces de anticipar el resultado de nuestras acciones para planificar una secuencia que nos permita cumplir una serie de tareas. Eso es lo que define un modelo de mundo". LeCun subraya la necesidad de desarrollar modelos que predigan el estado futuro del mundo con la fórmula t + 1, donde "1" puede representar desde 10 milisegundos hasta diez años. "Ese es un modelo de mundo".
Aquí radica la dificultad, ya que las empresas buscan alcanzar este objetivo a través de modelos de lenguaje que, como ya ha indicado, son meros teclados predictivos sofisticados y "nunca pueden predecir con exactitud qué palabra seguirá a una secuencia de palabras". Y, si no pueden hacer eso, tampoco pueden predecir los datos del mundo real.
Como ejemplo, cita la creación de video. Argumenta que se puede grabar una panorámica de un escenario y su audiencia, pero si se detiene en un punto y se solicita a una IA que reconstruya lo que falta, esta fallará. Lo considera "un problema matemáticamente intratable porque no sabemos cómo representar distribuciones sobre un número infinito de resultados plausibles" y afirma que la IA debería encontrar una representación abstracta de las observaciones y hacer predicciones en ese espacio de representación abstracta, pero "no intentar reconstruir todos los detalles que, en realidad, no son predecibles".
Precisamente, LeCun ha estado trabajando en esto desde que dejó Meta. Confesó haber dedicado 15 años a la idea del aprendizaje autosupervisado mediante la predicción de video, pero fracasó durante la primera década. Posteriormente, concibió la idea de abandonar los modelos generativos que intentan predecir a nivel de píxel para centrarse en un trabajo más abstracto, donde está observando progresos.
El problema es que no hay nada claro al respecto en este momento, y de hecho, en un panel posterior, CEOs de empresas de IA criticaron la postura de Yann, instándolo a proponer soluciones en lugar de solo señalar lo que no funciona.
A pesar de las posibles fricciones, y a título más personal, fue un placer escuchar a Yann LeCun y Steven Levy dialogar, e intercambiar críticas, sobre este campo con tanto futuro por delante.
