Google ha dado un paso en su estrategia por transparentar el contenido creado por inteligencia artificial.
Google podrá identificar imágenes hechas con IA
El gigante tecnológico anunció SynthID, una herramienta que añade una marca de agua digital a las imágenes generadas por IA, lo que las permitirá identificar con facilidad.
De acuerdo con una publicación en el blog de DeepMind, SynthID agrega un identificador directamente en los píxeles de una imagen, por lo que es imperceptible para el ojo humano. La marca de agua no compromete la calidad de imagen y soporta ediciones posteriores sin perder su efectividad. Eso significa que si añades filtros, recortas o conviertes a otro formato, la marca se mantendrá incrustada en el archivo.
Idea millonaria
La idea de una marca de agua en imágenes creadas por inteligencia artificial se ha vuelto necesaria en los últimos meses. Modelos como Midjourney o Stable Diffusion avanzan a pasos agigantados, generando contenido realista que engaña al usuario común. Para muestra bastan las fotos del arresto de Donald Trump o del Papa Francisco portando un abrigo acolchado, que se volvieron virales y obligaron a Midjourney a cancelar sus pruebas gratuitas.
SynthID no solo permite añadir un watermark, sino también escanear una imagen para saber si es producto de la IA generativa. La herramienta utiliza dos modelos de aprendizaje profundo: uno para marcas de agua y otro para identificación, los cuales se entrenaron a la par con un conjunto diverso de imágenes. Según los ingenieros de DeepMind, el modelo alinea visualmente el identificador con el contenido original para conocer si está presente.
