Novela premiada genera controversia: ¿Fue escrita por inteligencia artificial?

Tecnologia
La novela 'Donde el agua trabaja', ganadora del Premio Internacional de Novela Breve Almadía Ventosa-Arrufat, se encuentra en el centro de un escándalo. Tras una investigación de El País, se ha revelado que el 99% de su texto podría haber sido generado por inteligencia artificial, una situación que contraviene explícitamente las bases del concurso. Este descubrimiento plantea serias interrogantes sobre la autoría y la fiabilidad de los detectores de IA.

La novela 'Donde el agua trabaja' obtuvo en julio el primer Premio Internacional de Novela Breve Almadía Ventosa-Arrufat, superando a más de 2.200 obras de 22 países y recibiendo una dotación de 20.000 euros. Las bases del concurso establecían claramente que la participación implicaba declarar que la obra no había sido escrita, ni parcial ni totalmente, con herramientas de inteligencia artificial. Cualquier indicio o sospecha de incumplimiento resultaría en la descalificación de la obra.

Sin embargo, tras su publicación en septiembre y en plena gira de presentación en España, el autor peruano David Silva Rojas, la editorial y el jurado del concurso se han visto envueltos en una polémica. El diario El País ha destapado que, después de analizar el libro completo con el detector Pangram, la novela premiada contiene un 99% de texto generado por una IA.

Pangram es un clasificador de texto basado en redes neuronales, diseñado para discernir si un texto fue creado por un ser humano o por un modelo de lenguaje. Sus creadores afirman que su técnica de entrenamiento reduce los falsos positivos, no discrimina a hablantes no nativos de inglés, utiliza "prompts espejo" y analiza el texto por secciones. Pangram Labs, la empresa detrás de este detector, reporta una tasa de 0,0041% de falsos positivos y un 0,34% de falsos negativos. Un estudio independiente de la Universidad de Chicago concluyó que Pangram es menos propenso que otros detectores comerciales a clasificar texto humano como generado por IA.

El experimento de El País no se limita a 'Donde el agua trabaja'. Kiko Llaneras, ingeniero de datos y coautor del artículo, compartió en su perfil de X/Twitter que analizaron 175 éxitos literarios con Pangram, revelando resultados sorprendentes: 4 de cada 10 superventas autopublicados en Amazon tienen al menos un 25% de su contenido escrito con IA. El método de control del estudio incluyó la revisión de 56 libros de 2019-2020 (anteriores a ChatGPT), que arrojaron un 0% de IA; textos sintéticos generados por IA, que el detector identificó correctamente; y obras de autores consagrados como Javier Cercas, Isabel Allende y Antonio Muñoz Molina, que también resultaron en un 0% de IA.

A pesar de la aparente precisión de Pangram, persisten dudas sobre la infalibilidad de los detectores de IA. Existen pruebas que demuestran sus limitaciones: si un ensayo humano es modificado sustancialmente por una IA de consumo, Pangram lo clasificaba como humano en un 41% de los casos. Además, OpenAI retiró su propio detector de IA tras reconocer su baja tasa de acierto. El propio periódico El País admite que Pangram no es perfecto y que cualquiera puede buscar sus debilidades. Ángel L. Fernández Recuero, en Jot Down, explica cómo un simple espacio añadido en un texto puede alterar el veredicto del detector. Pedro Torrijos, arquitecto y divulgador, también puso a prueba Pangram el mes pasado, demostrando cómo un texto sencillo escrito a mano podía ser malinterpretado por el detector, cambiando su clasificación de 100% humano a 100% IA con solo modificar dos frases.

El problema de fondo radica en que un porcentaje, incluso del 99%, no constituye una prueba definitiva de autoría. Aunque sin duda genera sospechas y justifica una investigación, incluyendo la solicitud de borradores del proyecto. Estos sistemas estiman la probabilidad de que un texto haya sido generado por IA, pero no aclaran el papel exacto de la persona y la máquina: la IA pudo haber redactado, corregido o incluso sugerido tramas y personajes. Existe un caso extremo de colaboración humano-humano, como las memorias de Agassi, escritas por el periodista J. R. Moehringer tras 250 horas de entrevistas y firmadas por el tenista. La cuestión no es solo si hay IA, sino cuánta y cómo se utilizó. Sin embargo, las bases del concurso son inequívocas al prohibir el uso de IA. La situación presenta un matiz distópico: que sea una IA la que determine si una obra fue creada por IA, y que su veredicto actúe como una "espada de Damocles", donde un falso positivo puede arruinar una reputación, mientras que un falso negativo no conlleva consecuencias.