Tribunal Alemán Determina Responsabilidad de Google por Afirmaciones Falsas de su IA sin Enlaces de Apoyo

Tecnologia
Un tribunal en Aquisgrán, Alemania, ha establecido que Google es responsable de las afirmaciones falsas generadas por su función de resumen de IA cuando estas carecen de enlaces de apoyo. La decisión surge de un caso en el que la IA atribuyó erróneamente un delito sexual a un médico, basándose en un precedente de Múnich que considera las respuestas de la IA como declaraciones propias de la empresa. Esta medida cautelar podría sentar un precedente importante sobre la responsabilidad de las plataformas por el contenido generado por inteligencia artificial.

Cuando se realiza una búsqueda en Google, el primer resultado que a menudo aparece es un resumen generado por inteligencia artificial, conocido como AI Overviews. Este resumen suele incluir una serie de enlaces para que los usuarios puedan verificar la fuente de la información. Sin embargo, ¿qué sucede cuando no se proporcionan enlaces? ¿Quién asume la responsabilidad si la IA de Google difunde una afirmación sin el respaldo de fuentes citadas?

Un tribunal en Aquisgrán, Alemania, ha dictaminado que la responsabilidad recae en Google. La corte ha ordenado a la compañía que evite que su modo de IA difunda afirmaciones falsas sobre un médico al que el resumen de IA de Google había atribuido un delito de agresión sexual contra su secretaria. Aunque el delito existió, fue atribuido a la persona incorrecta. El tribunal, apoyándose en una sentencia previa de Múnich de mayo, considera que las respuestas de la IA de Google son declaraciones propias de la empresa. Actualmente, esta es una medida cautelar y no es definitiva, lo que permite a Google la posibilidad de apelar.

Según el medio jurídico Beck-Aktuell, el demandante es un médico que ocupó el cargo de médico jefe en un hospital alemán hasta el verano pasado. A finales de agosto, un colega le informó que al buscar su nombre junto con la palabra “exención” en el modo de inteligencia artificial de Google, aparecía un relato sobre él que era grave y estaba redactado con un tono alarmantemente detallado. Este relato afirmaba que había acosado a su secretaria durante un viaje de negocios, que había sido despedido, que había recibido una condena condicional por agresión sexual y que había obtenido una indemnización por despido de seis cifras. Ninguna de estas afirmaciones era verídica.

Beck-Aktuell señala que los hechos parecen haber estado relacionados con otro antiguo miembro del personal directivo de la misma clínica, y que los artículos de noticias enlazados por Google como fuentes nunca mencionaban el nombre del demandante. De acuerdo con The Decoder, búsquedas adicionales utilizando términos como “rescisión” y “procedimientos judiciales” también resultaron en desinformación igualmente detallada.

El médico contactó a Google por correo electrónico a finales de agosto solicitando la eliminación del contenido. No obstante, Beck-Aktuell informa que Google respondió que había revisado la reclamación y que no tomaría ninguna medida. Una carta de advertencia enviada el mismo día por sus abogados, el bufete Höcker de Colonia, tampoco logró cambiar la situación.

El tribunal de Aquisgrán dictaminó que los textos generados por la IA vulneraban el derecho general de la personalidad del médico, ya que le atribuían acusaciones penales y consecuencias laborales que afectaban a otra persona. El medio indica que la orden fue emitida en un procedimiento de urgencia, sin escuchar previamente a Google, argumentando los daños a la reputación profesional y social del médico. Google podría enfrentar una multa de hasta 250.000 euros por cada infracción.

En el caso anterior, el Tribunal Regional I de Múnich dictaminó que Google puede ser considerado directamente responsable de sus resúmenes de IA, según DW. Los demandantes eran dos editoriales de Múnich a las que esta función había vinculado erróneamente con estafas de suscripción y esquemas fraudulentos. Google argumentó que los usuarios podían verificar las fuentes a través de los enlaces y eran conscientes de que no debían confiar ciegamente en los resultados de la IA. El tribunal rechazó este argumento, considerando que el resumen era una declaración autónoma y no ofrecía a los lectores ningún indicio de que pudiera no ser fiable. Google declaró en ese momento que apelaría la sentencia. El medio The Decoder informa que el recurso nunca se resolvió, ya que, según la investigación, el caso terminó con un acuerdo extrajudicial, y ni Google ni la editorial quisieron aclarar si hubo compensación económica o por qué se cerró el caso.