img meta data

Cómo analizar si una imagen fue generada por IA a través de sus meta datos

Una de las acciones que en ciberseguridad y en concreto en forense, se suelen dar, es el análisis o auditorías de archivos (imágenes, vídeos, audios, etc.).

img meta data

Pues bien, a raíz de esto, y de descubrir una de las herramientas más utilizadas en forense para analizar la meta data de archivos como es EXIFTOOL, me surgió la duda de si existe actualmente algún valor en la meta data que pueda ayudar a identificar si ese archivo fue generado por inteligencia artificial o fue creado por una persona.

Y es que esto a futuro podría tener implicaciones incluso para los motores de búsqueda como Google, ya que por ejemplo podría aplicar un «filtro» para posicionar «peor» aquellas imágenes que no han sido creadas por humanos, si no que han sido creadas por herramientas generativas de IA como Midjourney o DALL-E

Si tuviera que ahondar en investigar si una imagen en concreto, ha sido generada por IA o no, creo que por el momento me sería complicado saberlo, sin embargo podría llegar a detectar algunas pistas o patrones que me podrían intuir si ha sido generada por IA o no…

Pasos para identificar si una imagen fue generada por IA

Estos son los pasos que yo seguiría:

  1. Descargar la imagen. La primera tarea sería descargar la imagen a analizar.
  2. Extraer los metadatos. Una vez descargada la imagen, extraeríamos los metadatos. Esto se puede hacer por ejemplo desde una consola de Kali usando el programa EXIFTOOL que comentábamos al inicio.
  3. Buscar la etiqueta «AIGenerated». La etiqueta AIGenerated es una meta etiqueta que en ocasiones se utiliza para identificar imágenes generadas con IA. Si la etiqueta AIGenerated está presente (valor true), la imagen es muy probable que haya sido generada con IA.
  4. Buscar otras pistas. Si la etiqueta AIGenerated no está presente, es posible que la imagen haya sido generada con IA pero no lo sabemos bien. En este caso, se pueden buscar otras pistas en los metadatos, como el nombre del modelo de IA utilizado para generar la imagen, etc.

Etiquetas específicas en meta data de imágenes

Algunas de las etiquetas que podrías encontrar en los metadatos de una imagen y que te harían indicar que fue generada por IA serían:

  • Etiqueta AIGenerated: Esta etiqueta indica que la imagen fue generada con IA.
  • Etiqueta Creator: Esta etiqueta puede contener el nombre del modelo de IA utilizado para generar la imagen.
  • Etiqueta Model: Esta etiqueta puede contener el nombre del modelo de IA utilizado para generar la imagen.
  • Etiqueta Parameters: Esta etiqueta puede contener los parámetros utilizados para generar la imagen.

Ejemplos de meta datos que puedes encontrar en imgs

Si analizar la meta información de una imagen, estos podrían ser algunos de los valores que llevarían las meta etiquetas de imágenes ocultas o no visibles al usuario:

  • Ejemplo 1: Una imagen tiene la etiqueta AIGenerated con el valor true. Esta imagen es muy probable que haya sido generada con IA.
  • Ejemplo 2: Una imagen tiene la etiqueta Creator con el valor DALL-E. Esta imagen es muy probable que haya sido generada con el modelo de IA DALL-E.
  • Ejemplo 3: Una imagen tiene la etiqueta Model con el valor GPT-3. Esta imagen es muy probable que haya sido generada con el modelo de IA GPT-3.
  • Ejemplo 4: Una imagen tiene la etiqueta Parameters con los valores height=100, width=100, prompt="un perro sentado en un sofá". Esta imagen es muy probable que haya sido generada con un modelo de IA que fue entrenado para generar imágenes de perros sentados en sofás.

Cómo se pueden utilizar otras técnicas para identificar imágenes generadas con IA

Además de los metadatos, también se pueden utilizar otras técnicas para identificar imágenes generadas con IA. Por ejemplo, se pueden analizar los patrones en la imagen o se puede utilizar una herramienta de detección de IA.

  • Análisis de patrones: Las imágenes generadas con IA a menudo tienen patrones que son diferentes a los que se encuentran en las imágenes tomadas por cámaras. Por ejemplo, las imágenes generadas con IA pueden tener bordes irregulares, colores poco naturales o texturas repetitivas.
  • Herramientas de detección de IA: Hay varias herramientas disponibles en línea que pueden ayudar a identificar imágenes generadas con IA. Estas herramientas utilizan diferentes técnicas para identificar patrones que son comunes en las imágenes generadas con IA.

Es importante tener en cuenta que ninguna de estas técnicas es perfecta. Las imágenes generadas con IA están cada vez más difíciles de distinguir de las imágenes tomadas por cámaras.

En este repositorio de Github he encontrado la propuesta que muestra cómo se podría etiquetar una imagen que ha sido generada por IA para ser identificada.

Otros posts relacionados