A menudo hay señales reveladoras cuando se genera una imagen con la ayuda de inteligencia artificial. En ocasiones, el creador lo incluye en la descripción de la imagen, mientras que en otros casos hay que estar atento a irregularidades como rasgos ausentes, flores verdes inusuales o fondos extrañamente suavizados.
Sin embargo, existen imágenes producidas sintéticamente que son verdaderamente indistinguibles de la realidad. Hay herramientas de detección de IA, como AI Art Detector de Maybe, disponibles para determinar en qué medida la IA ha contribuido a la creación de una imagen.
Uniéndose a la liga de herramientas de detección de IA, Google DeepMind, el brazo de IA del gigante tecnológico, presentó SynthID el martes, que funciona con una tecnología doble. Esta herramienta es capaz de poner marcas de agua en imágenes generadas por IA y también puede reconocerlas.
Sin degradación de la calidad de la imagen
Basado en dos modelos de aprendizaje profundo, para marcas de agua e identificación, ambos han sido entrenados juntos en un conjunto diverso de imágenes. Los fotógrafos y las empresas de medios visuales en línea han utilizado durante mucho tiempo marcas de agua en las imágenes para evitar la infracción de derechos de autor. Estas marcas de agua se pueden eliminar fácilmente de la imagen. Pero las marcas de agua de SynthID no son comunes y corrientes.
Las marcas de agua son granulares y están incrustadas en los píxeles de la imagen. No se puede diferenciar entre las imágenes con marca de agua y sin marca de agua porque no son visibles a simple vista, pero se pueden detectar utilizando SynthID. Se pueden agregar filtros, cambiar la composición del color o realizar compresiones con pérdida, pero eso no afectará ni diluirá la marca de agua.
Actualmente, SynthID solo se lanza como una versión beta para sus clientes de Vertex AI que utilizan el generador de IA de texto a imagen de Google llamado Imagen. Vertex AI es una plataforma de IA unificada de Google que ofrece todos los servicios en la nube de Google bajo un mismo techo.
“Si bien la IA generativa puede desbloquear un enorme potencial creativo, también presenta nuevos riesgos, como permitir a los creadores difundir información falsa, ya sea intencionalmente o no. Ser capaz de identificar el contenido generado por IA es fundamental para que las personas sepan cuándo interactúan con los medios generados y para ayudar a prevenir la difusión de información errónea”, afirma el blog.
Lanzamiento completo en una fecha posterior
Google DeepMind ha advertido categóricamente que SynthID no es una herramienta infalible contra manipulaciones extremas de imágenes, pero sí permite a las personas y organizaciones trabajar con contenido generado por IA de manera responsable.
El blog no menciona si SynthID, como herramienta independiente, posee la capacidad de identificar imágenes generadas por IA que no tienen su marca de agua digital. Sin embargo, puede identificar imágenes generadas por IA que se crearon usando Imagen y si el creador aplicó la marca de agua digital.
Google DeepMind también ha anunciado que planea ampliar la tecnología que se utilizará para identificar texto, audio y video generados por IA.
¿Google implementará SynthID a mayor escala?
La búsqueda de Google Imágenes ofrece acceso a más de 136 mil millones de imágenes. A principios de este año, la compañía introdujo una nueva función llamada «Acerca de esta imagen» que complementa las imágenes con información adicional. Esta información abarca la fecha de indexación inicial de la imagen en la base de datos de Google y el sitio web donde se publicó originalmente la imagen. Google quiere ayudar a los usuarios a identificar la fuente original de la imagen. Esto ayudará a eliminar las imágenes fotorrealistas generadas por IA.
Con el aumento de los deepfakes y de las herramientas que permiten crear deepfakes, en Internet flotaban imágenes del Papa Francisco con una enorme chaqueta de Balenciaga. También había una de Elon Musk besando a un robot. Ambos parecían realistas. Por supuesto, ambos fueron producto de la imaginación de alguien y el resultado del uso de una herramienta profundamente falsa.
Sería interesante ver cómo Google aplica su último detector de imágenes con inteligencia artificial, SynthID, y otras aplicaciones similares para segregar imágenes falsas.
