Un abogado en Canarias ha sido sancionado por utilizar citas de sentencias inexistentes, generadas por ChatGPT, en un recurso de apelación. Este incidente subraya la creciente problemática de las 'alucinaciones' en la inteligencia artificial, especialmente en el ámbito jurídico, donde la fiabilidad de la información es crucial. La situación resalta la necesidad de supervisión humana y verificación de datos, incluso con herramientas de IA avanzadas.
La situación recuerda a una escena de ficción: un abogado presentó un recurso de apelación ante la Sala de lo Penal del Tribunal Superior de Justicia de Canarias contra una decisión de la Audiencia Provincial de Santa Cruz de Tenerife. El documento incluía 48 referencias a sentencias del Tribunal Supremo y un informe del Consejo General del Poder Judicial que, simplemente, no existían. Estas fueron generadas por ChatGPT, una herramienta de inteligencia artificial no diseñada específicamente para el sector legal. El letrado no verificó la existencia de los números de sentencia, las fechas ni los identificadores, ni cotejó los datos con el Cendoj, la base de jurisprudencia gratuita y de acceso universal. Como resultado, recibió una multa de 450 euros, calculada como la mitad del costo anual de una suscripción a una IA jurídica fiable. El TSJ impuso esta sanción simbólica para enfatizar la gravedad de la omisión.
Este tipo de invenciones por parte de la IA es un problema recurrente, especialmente en el ámbito legal donde la jurisprudencia es fundamental. En Nueva York, Steven Schwartz fue sancionado en 2023 con 5.000 dólares por citar resoluciones inventadas por ChatGPT. Tres abogados en Alabama fueron apartados de un caso por la jueza Annemarie Carney Axon tras incluir cinco citas falsas. Un letrado en Utah tuvo que pagar las costas de la parte contraria y donar 1.000 dólares a una ONG legal. En España, el Tribunal Constitucional reprendió a un abogado por 'falta del debido respeto' al citar textualmente pasajes de 19 sentencias inexistentes del propio tribunal. En julio de 2026, el TSXG de Galicia impuso 1.800 euros —el doble que en Canarias, cinco meses después— por 24 referencias inventadas o manipuladas en un recurso laboral, argumentando falta de 'control humano consciente y efectivo' según la Instrucción 2/2026 del CGPJ. Solo un caso, en el TSJ de Navarra, se archivó sin sanción porque la letrada rectificó a tiempo. Aunque la IA puede ser útil en juicios, la falta de supervisión puede llevar a un vacío legal.
Esto ya se había advertido. Un estudio de Stanford RegLab, Large Legal Fictions, analizó 800.000 preguntas jurídicas verificables y encontró tasas de 'alucinación' de entre el 58% (GPT-4) y el 88% (Llama 2) al solicitar datos concretos sobre casos judiciales reales. La siguiente fase del estudio, 'Hallucination-Free?', auditó herramientas jurídicas premium que prometían cero errores: Lexis+ AI falló el 17% de las veces, Westlaw AI-Assisted Research el 33%, y GPT-4 sin adaptar, el 43%. Ni siquiera las plataformas de pago están exentas. Además, la consultora IA Dreadnode probó 22 modelos frontera y observó que todos, excepto uno, cometieron errores, tomando atajos como si fueran estudiantes de primaria. La imagen del abogado tradicional, rodeado de libros y recortes de prensa antiguos, contrasta con la abogacía digital actual, donde la optimización de recursos y la publicidad son factores clave.
Actualmente, se han logrado avances. Claude 5 Fable o la versión 5.6 de ChatGPT han introducido mejoras. El Vectara HHEM Leaderboard, que mide la fidelidad al resumir documentos, situó a GPT-5.5 en torno al 9,3% y a Claude Opus entre el 4% y el 6%, muy por debajo del 17%-43% registrado por las herramientas jurídicas premium en el estudio de Stanford de 2024. Sin embargo, el problema de inventar jurisprudencia persiste: una guía jurídica de 2026 dirigida a abogados en ejercicio aún cita tasas de alucinación del 69% al 88% en consultas legales. Esta situación, donde los profesionales menos experimentados instruyen a los más veteranos, genera un desequilibrio de poder. Un análisis reciente sobre cómo la IA altera el poder menciona el caso de McKinsey, que ya opera con 25.000 agentes de IA junto a 40.000 empleados humanos, y estima que el 58% de las horas de trabajo en Europa podrían automatizarse de inmediato. El abogado de Canarias representa a ese tipo de profesional senior que confía en una respuesta plausible sin verificarla, depositando una fe ciega.
Un estudio del MIT solicitó a 300 personas evaluar respuestas médicas de un profesional, una plataforma digital y una IA. Los participantes calificaron las respuestas de la IA como más completas y fiables, incluso sabiendo que uno de cada cuatro diagnósticos era incorrecto. Otra encuesta reveló que el 23% de los estadounidenses confía más en el juicio médico de una IA que en el humano. En España, un 18% ya acude a consulta por recomendación de una IA. Los académicos denominan a esto sesgo de automatización: la inclinación a preferir respuestas rápidas frente a la verificación que requiere tiempo. A pesar de todo, el criterio humano aún prevalece. El último estudio del Pew Research Center mostró que el 52% de los estadounidenses se siente ahora más preocupado que entusiasmado por la creciente presencia de la IA en su vida diaria, frente al 37% de 2021. Solo el 9% se declara más entusiasmado que preocupado. La pérdida de autonomía y sentido crítico es una percepción sensorial que trasciende el lenguaje, incluso el legal.
