La proliferación de imágenes generadas por inteligencia artificial ha causado problemas de autenticidad en la información. Google está experimentando con marcas de agua digitales para detectar contenido engañoso y combatir la desinformación. SynthID, desarrollado por DeepMind, el brazo de IA de Google, identificará imágenes generadas por máquinas mediante cambios en los píxeles, lo que las hace invisibles para los humanos pero detectables por computadoras. No obstante, DeepMind reconoce que no es infalible ante la manipulación extrema de imágenes.
Han experimentado un crecimiento explosivo. Para dar una idea de su alcance, Midjourney, una de estas herramientas, cuenta con más de 14,5 millones de usuarios. Con solo instrucciones de texto simples, los usuarios pueden crear imágenes en cuestión de segundos.
Incluso Google se ha sumado al tren de los generadores de imágenes, y su sistema de creación y marca de agua se aplicará exclusivamente a las imágenes generadas con esta herramienta.
La razón detrás de la marca de agua invisible radica en la vulnerabilidad de las marcas de agua convencionales, que pueden ser editadas o recortadas con facilidad. El sistema de Google crea una marca de agua prácticamente invisible, lo que permitirá a las personas utilizar su software para verificar al instante si una imagen es auténtica o generada por una máquina.
