La comunidad científica se encuentra en una encrucijada tras la aparente resolución de uno de los Problemas del Milenio por parte de la IA de OpenAI, lo que ha desatado un debate ético. Veinticinco matemáticos galardonados con la Medalla Fields han firmado una carta abierta, no contra la IA en sí, sino contra la carrera desenfrenada entre laboratorios por ser los primeros, cuestionando la atribución y la metodología en la investigación.
Esta semana ha traído consigo un dualismo para la ciencia: aunque falta la confirmación de la comunidad matemática, parece haberse encontrado la solución a uno de los siete Problemas del Milenio propuestos por el Clay Mathematics Institute. Sin embargo, esta hazaña no fue lograda por la humanidad en su conjunto, sino por la inteligencia artificial de OpenAI, y no sin una serie de complejidades, incluyendo meses de trabajo humano previo y la intervención de miles de agentes.
Pocos días después, 25 de los matemáticos más brillantes del mundo, galardonados con la Medalla Fields (considerada el 'Nobel de las matemáticas'), han emitido una carta abierta. Su crítica no se dirige directamente a la IA, sino a la competencia feroz entre los laboratorios de inteligencia artificial por alcanzar resultados a toda costa y a sus métodos de operación.
El foco de la controversia radica en el problema de existencia y suavidad de Navier-Stokes. El matemático Tristan Buckmaster de la Universidad de Nueva York y el investigador de Anthropic Levent Alpöge llevaban meses trabajando en su resolución y logrando avances significativos. Fue entonces cuando descubrieron que OpenAI había utilizado su infraestructura para, partiendo de sus progresos, resolver el problema. Es importante destacar que, como es habitual en la ciencia, ellos tampoco partieron de cero, sino que su investigación se basó en el trabajo previo de los matemáticos Diego Córdoba y Luis Martínez-Zoroa. Finalmente, OpenAI publicó la prueba que se dio a conocer esta semana.
Buckmaster solicitó explicaciones a OpenAI, recibiendo respuestas cada vez más ambiguas y comentarios inquietantes, como "¿por qué arruinarías tu carrera?". Además, uno de sus matemáticos, Sébastien Bubeck, le sugirió que retirara a Alpöge de la ecuación debido a su vinculación con Anthropic.
OpenAI ha confirmado parcialmente esta versión de los hechos, afirmando que comenzó a trabajar en el problema el 1 de septiembre, tras escuchar rumores sobre su posible resolución. La empresa utilizó un modelo aún no publicado, específicamente 10.000 agentes coordinados que trabajaron durante 88 horas, consumiendo 300.000 millones de tokens de salida, lo que equivale a 22,5 millones de dólares en capacidad de cómputo. OpenAI niega haber tenido acceso al trabajo de Buckmaster antes de su publicación, pero admite que no puede descartar por completo que parte de esa información haya llegado a sus modelos a través del uso de la herramienta Codex por parte de Buckmaster.
La carta, firmada por 25 expertos y titulada "Una grave desalineación de la IA en las matemáticas", no condena la IA per se. Su principal queja es la excesiva prisa con la que las empresas publican resultados, sin permitir el tiempo necesario para la revisión ni para otorgar el debido crédito a quienes realizaron el trabajo preliminar. Esto, según los firmantes, abre la puerta a plagios y atribuciones incorrectas. Advierten claramente que, sin profesionales de las matemáticas que se tomen el tiempo de comprender y explicar las ideas, los resultados generados por la IA nunca serán verdaderamente útiles para el resto de la comunidad.
La carta extiende su advertencia más allá de las matemáticas, señalando que "Estamos presenciando una amenaza general para el trabajo intelectual, con un desalineamiento entre el resultado del uso de la IA y su propósito inicial". En otras palabras, lo que ha ocurrido en el ámbito matemático podría replicarse en otras profesiones creativas y científicas si la situación actual persiste. Por ello, instan tanto a las empresas como a la comunidad a tomar medidas de inmediato.
Más allá de ser una cuestión académica, esto representa un problema de mala praxis. Es innegable el vasto poder de cálculo de un laboratorio de IA en comparación con un cerebro humano, pero las formas y éticas son un asunto diferente. Cabe destacar que no es la primera vez que las voces más autorizadas en matemáticas expresan su preocupación: en junio de este año, la Declaración de Leiden ya proponía recomendaciones para instituciones y responsables políticos frente al impacto de las demostraciones generadas por grandes modelos de lenguaje.
El problema subyacente es que si lo único que importa es ganar la carrera, los matemáticos podrían cambiar su enfoque, dejando de compartir sus avances para ocultarlos y así evitar que una empresa con grandes recursos económicos y computacionales "robe" sus resultados para luego apresurarse a resolverlos. Esto marcaría un punto de inflexión en la práctica científica, históricamente basada en el intercambio de ideas para su revisión y mejora. Se espera que esta situación impulse cambios más concretos y tangibles, como la implementación de reglas más claras sobre cómo las empresas de IA pueden (o no) utilizar las conversaciones de estas investigaciones para entrenar sus modelos. También es crucial asegurar el tiempo necesario para la revisión antes de anunciar a bombo y platillo los avances y reconocer que este no es un problema exclusivo de las matemáticas, ya que en otras disciplinas la IA también podría adelantarse a las personas.
