Google DeepMind ha puesto a disposición del público SynthID, una tecnología de marca de agua digital diseñada para identificar imágenes, videos y audio generados por inteligencia artificial. Aunque promete una mayor capacidad de detección al incrustar marcas imperceptibles desde la creación del contenido, la herramienta enfrenta desafíos significativos, incluyendo la falta de un estándar universal y la capacidad de ciertos algoritmos para eludir sus marcadores, lo que limita su fiabilidad.
Mientras la proliferación de noticias falsas se ha intensificado con la llegada de la inteligencia artificial generativa y su habilidad para crear imágenes que difuminan la distinción entre lo real y lo artificial, Google DeepMind introdujo SynthID en 2023. Esta herramienta, inicialmente de uso restringido para la identificación de contenido falso, ha sido ahora abierta al público y ha mejorado sus capacidades. Sin embargo, su eficacia está lejos de ser infalible.
SynthID es una tecnología de marca de agua que DeepMind desarrolló hace varios años. Su función es incrustar una marca imperceptible en imágenes, videos, audio o texto creados por IA en el momento de su generación. A diferencia de las marcas de agua visibles o los símbolos previos de Gemini en la IA de Google, esta marca es más profunda, diseñada para resistir recortes y filtros en imágenes, cambios de fotogramas y compresión con pérdida en videos, o ruido, compresión agresiva y alteraciones de velocidad en el audio. Google afirma haber marcado más de 180.000 millones de imágenes y videos, además de más de 240.000 años de audio, lo que resalta la masiva cantidad de contenido generado en poco tiempo.
Los usuarios pueden probar SynthID fácilmente visitando su sitio web oficial o la plataforma Gemini y cargando un archivo. En cuestión de segundos, la herramienta proporciona un resultado, indicando si el contenido fue creado con IA, ya que OpenAI y Google disponen de sus propios sistemas de marcado. Existen algunas limitaciones, como el tamaño del archivo, la duración de los videos (menos de 90 segundos) y un límite de aproximadamente 20 consultas diarias, dado que el procesamiento de IA consume recursos.
Uno de los principales problemas de SynthID es que no constituye un estándar universal. Aunque empresas como Kakao, Nvidia en Cosmos y herramientas de OpenAI como ChatGPT o Codex lo integran en su API, si el contenido se genera con un programa de IA diferente, SynthID no puede leer esos marcadores ocultos y, por ende, no puede determinar si el contenido es generado por IA. Por ejemplo, una imagen generada por IA que fue compartida por un empleado de Meta Superintelligence Labs, cuya procedencia no es de Gemini ni ChatGPT, no fue reconocida por SynthID, a pesar de ser claramente artificial. La propia Google aclara que su detector solo puede identificar contenido creado con "IA de Google o de nuestros socios".
Meta ya había señalado en 2024 la imposibilidad de identificar todo el contenido generado por IA, destacando que, a medida que surgen herramientas de detección, también aparecen otras para eliminar los marcadores. OpenAI, que utiliza una herramienta similar a la de Google, reconoce que "el contenido aún podría haber sido generado por OpenAI si se eliminaran o manipularan sus metadatos, se degradara su marca de agua, procediera de un modelo heredado de generación o se creara antes de que existieran señales de procedencia".
Las mismas empresas que desarrollan y perfeccionan la IA, haciendo que sea cada vez más precisa e incluso capaz de borrar marcas de agua visibles, son las que también trabajan en herramientas para identificar estas imágenes falsas. Esto añade una complejidad innecesaria a un proceso que debería ser más sencillo. Además de SynthID, Adobe y Meta han lanzado sistemas similares.
La propuesta más relevante en este ámbito es el estándar C2PA (Coalition for Content Provenance and Authenticity). Esta coalición gestiona tecnologías como la especificación Content Credentials para etiquetar el contenido generado por IA, e incluye a algunas de las empresas más grandes del sector. La otra alternativa, más idealista, es depositar la confianza en la humanidad.
En marzo de 2025, el Gobierno aprobó un anteproyecto de ley que calificaba como infracción grave la omisión de etiquetar el contenido generado por IA. Desde entonces, no solo ha habido una avalancha de contenido generado por IA, sino que también han surgido influencers falsos (creados con IA) que difunden mensajes dañinos que pueden influir en ciertas audiencias.
