SynthID: La tecnología de Google para identificar contenido generado por IA

En un mundo donde la inteligencia artificial está revolucionando cómo creamos y consumimos imágenes, textos, vídeos y sonidos, surge una pregunta cada vez más habitual: ¿cómo identificar lo que es real y lo que ha sido generado artificialmente? Ante la avalancha de contenidos sintéticos que inundan internet, tanto personas usuarias como empresas y medios necesitan herramientas fiables que aporten transparencia y confianza. Aquí entra en escena SynthID, una propuesta tecnológica impulsada por Google DeepMind que promete marcar la diferencia en la trazabilidad del contenido digital generado por IA.

La tecnología capaz de añadir marcas de agua invisibles a recursos digitales y después detectarlas no es nueva en sí, pero los retos de robustez ante manipulaciones y la extensión multiplataforma hacen de SynthID una iniciativa relevante y compleja. En este artículo te desgranamos con todo tipo de detalles cómo funciona SynthID, qué problemáticas resuelve y cuáles abre, en qué consiste su tecnología, cómo evoluciona y por qué puede convertirse en un estándar que dé respuesta a la desinformación digital asociada a los contenidos artificiales.

SynthID: una respuesta tecnológica a los desafíos del contenido generado por IA

La proliferación del contenido generado por inteligencia artificial plantea nuevos problemas de autenticidad, atribución y desinformación masiva. Imágenes hiperrealistas, vídeos creíbles y textos indistinguibles de los escritos por humanos complican discernir el origen de la información que nos llega. Para abordar este panorama, Google DeepMind ha desarrollado SynthID: una tecnología capaz de marcar absolutamente todo tipo de contenido generado con IA —imágenes, vídeos, audio y texto— con una marca de agua digital imperceptible para el ojo humano, pero detectable por sistemas especializados y algoritmos afines.

El propósito fundacional de SynthID es fomentar la transparencia en el uso de IA generativa y facilitar la identificación de recursos creados o alterados artificialmente, tanto para consumidores como para profesionales.

¿Cómo funciona SynthID? El poder de la marca de agua digital en IA

SynthID opera a través de la inserción y la verificación de marcas de agua digitales invisibles, cuyo mecanismo de inserción depende del tipo de contenido:

• Imágenes y vídeos: La marca de agua se incrusta de forma imperceptible en los píxeles. A diferencia de las marcas visibles, esta no afecta a la experiencia visual, pero permanece detectable incluso después de operaciones como recortes, redimensionados, compresiones o filtros. Grandes plataformas como Vertex AI ya están integrando esta solución para verificar imágenes generadas en sus flujos de trabajo.
• Texto: La marca se integra mediante pequeñas variaciones estadísticamente significativas en las elecciones de palabras o fragmentos (tokens) al generar el texto. Estas alteraciones no afectan al mensaje ni a la calidad, pero generan un patrón reconocible para detectores especializados.
• Audio: SynthID transforma los archivos de audio en espectrogramas, coloca la marca en esa representación gráfica y la reconstruye, logrando una señal inaudible que resiste procesos habituales de compresión o edición.

Google afirma que las marcas de SynthID resisten manipulaciones ‘normales’ como recortes, cambios de brillo/contraste, compresión o pequeñas reescrituras. No obstante, ediciones extremadamente agresivas o transformaciones profundas sí podrían eliminarlas o hacer difícil su detección.

SynthID Detector: la herramienta gemela para verificar contenido

La propuesta de SynthID no se queda sólo en la generación de marcas. Para cerrar el círculo, Google ha creado SynthID Detector, una herramienta que permite subir imágenes, vídeos, audios o fragmentos de texto y comprobar de manera automática si contienen esa marca digital. El detector utiliza algoritmos que analizan patrones dormidos en el archivo, buscando las señales ocultas dejadas durante la creación sintética.

Actualmente, SynthID Detector está disponible en versión limitada a determinados usuarios, pero se prevé que, en el corto plazo, se extienda a periodistas, profesionales de la comunicación, investigadores y, eventualmente, a cualquier ciudadano preocupado por la autenticidad de la información digital.

Evolución de SynthID: de experimento a código abierto para convertirse en estándar

SynthID fue presentado inicialmente en agosto de 2023 y se empezó a implementar, en modo beta, en modelos generativos como Gemini, el editor de imágenes Imagen o la herramienta para audio Lyria. Posteriormente, Google ha ido abriendo su código —empezando por SynthID Text— para fomentar la adopción de la tecnología por parte de terceros, empresas y desarrolladores independientes. Su intención clara es convertir SynthID en un estándar de facto, ofreciendo tanto la herramienta de marcado como los algoritmos de detección y documentación técnica para su integración.

Así, otras entidades y modelos de IA —como NVIDIA a través de acuerdos recientes— podrán adoptar SynthID, ayudando a homogeneizar la trazabilidad del contenido generado por IA en todo el sector.

Aspectos técnicos de SynthID: implementación, robustez y limitaciones

La inserción de la marca de agua en cada formato varía en complejidad y precisión:

• En imágenes y vídeos: Utiliza modelos de aprendizaje profundo, con un modelo encargado de incorporar la marca al archivo y otro de detectarla posteriormente, evitando alterar la calidad visual.
• En texto: Opera como un «procesador de logits» en generadores como Hugging Face Transformers, aplicando ligeras modificaciones pseudoaleatorias en la probabilidad de selección de tokens para generar un patrón estadístico.
• En audio: La marca se añade al espectro de frecuencias, manteniendo la integridad sonora y dificultando la manipulación. La marca puede persistir tras ediciones típicas de audio digital como recortes o compresiones.

SynthID Text se ha publicado como código abierto y está disponible tanto en la plataforma Hugging Face Transformers como en repositorios de referencia en GitHub, permitiendo la integración directa en sistemas de generación textual de IA.

El proceso de detección es probabilístico. El algoritmo calcula la probabilidad de que un recurso contenga o no la marca SynthID, generando respuestas como “con marca”, “sin marca” o “incierto”. Este comportamiento se puede personalizar para ajustar falsos positivos y negativos, y compartir configuraciones comunes entre modelos compatibles.

Principales limitaciones técnicas:

• En textos cortos o especialmente precisos, la capacidad para dejar una marca robusta disminuye ya que hay menos variación posible en el contenido.
• Ediciones agresivas, reescrituras completas o traducciones pueden reducir o eliminar la marca en textos o alterar las imágenes hasta el punto de hacer la marca irreconocible.
• No está ideado para evitar ataques avanzados de adversarios motivados, aunque sí complica el uso indebido o malicioso de contenido sintético.

Verificación directa en la plataforma Gemini

Para quienes utilizan la app Gemini de Google, la función de verificación con SynthID ya forma parte de su flujo de comprobación. Los usuarios pueden subir imágenes o vídeos, y tras la verificación, Gemini les informa si se ha detectado la marca SynthID o no, o si no se puede concluir por las características del recurso. El sistema también indica en qué puntos concretos de un vídeo aparece la marca.

En la práctica, esto permite distinguir si una imagen es totalmente nueva y creada por una IA de Google, parcialmente modificada o, simplemente, carente de esa marca digital.

Más allá de SynthID: otros métodos de identificación de contenido generado por IA

La marca de agua digital no es la única fórmula para verificar la autenticidad de recursos digitales. Otras técnicas pueden complementar SynthID para reforzar la confianza:

• Detectar artefactos visuales en imágenes o vídeos, como errores anatómicos, sombras incoherentes, textos distorsionados o patrones repetitivos.
• Búsqueda inversa de imágenes en herramientas como Google Imágenes, para encontrar precedentes o versiones originales del archivo.
• Revisión de metadatos y marcas de software de edición.
• Comprobación de la información EXIF en fotografías, aunque esto puede ser alterado manualmente o por algunas plataformas.

Aun así, estas técnicas pueden no ser determinantes en contenidos bien generados por IA, de ahí el interés en soluciones como SynthID.

Usos y aplicaciones de SynthID en diferentes sectores

El impacto de SynthID va mucho más allá del consumidor particular. Sectores como periodismo, marketing, educación, derechos digitales y publicidad digital están atentos a su adopción y potencial expansivo:

• Medios y periodismo: Permite a redactores y editores distinguir y etiquetar contenidos generados por IA, frenando la cadena de desinformación involuntaria, cuidando la imagen del medio y validando las fuentes de imágenes y vídeos.
• Entornos educativos: Las marcas ayudan a controlar el uso de IA en investigaciones y trabajos presentados por estudiantes, resguardando la integridad académica.
• Empresas y marketing digital: Proporciona garantías de autenticidad en campañas, protegiendo la marca y asegurando la transparencia con consumidores cada vez más exigentes y atentos a los orígenes del contenido.

Ventajas y retos en la adopción de SynthID

Las ventajas de una solución de trazabilidad universal para contenido digital artificial son múltiples:

• Permite identificar información manipulada o potencialmente falsa antes de su viralización.
• Fomenta la transparencia en el uso y puesta en valor de IA generativa en todos los sectores.
• Disuade parcialmente el uso malicioso de IA, dificultando su uso para fraudes, suplantaciones o campañas de manipulación.

Aun así, la adopción masiva por parte de todos los grandes motores generativos del mercado digital será crucial para su éxito, ya que la efectividad de la marca puede verse comprometida ante esfuerzos coordinados para eliminarla o esconderla.

El futuro de la trazabilidad de la IA generativa

SynthID representa un paso importante hacia la construcción de un entorno digital más seguro y consciente, donde la procedencia de los contenidos aportados por inteligencia artificial esté siempre documentada. A medida que la tecnología evoluciona y surgen aplicaciones cada vez más avanzadas, herramientas como SynthID son esenciales para mantener la confianza en la información digital y garantizar una convivencia ética y responsable entre personas, empresas y sistemas inteligentes. Adoptar tecnologías de trazabilidad y detección como SynthID es una decisión estratégica tanto para medios, plataformas y usuarios preocupados por la veracidad y reputación en internet como para cualquier sector donde la autenticidad se convierta en un valor diferencial.

¿Qué es ValiDrive y cómo detectar memorias USB y discos falsos? La guía definitiva