Las claves para detectar imágenes alteradas con IA

Redacción Más / IA

En los últimos años, ha aumentado la preocupación por la proliferación de desinformación basada en imágenes generadas por inteligencia artificial (IA). Desde Estados Unidos supuestamente liberando 8,000 cocodrilos en el Río Bravo para detener migrantes hasta el incendio ficticio de la pirámide del Museo del Louvre, muchas de estas historias sensacionales se originan en contenidos falsificados mediante IA, que pueden ser indistinguibles de la realidad.

Compañías tecnológicas líderes como Google, Meta y OpenAI están respondiendo a este desafío desarrollando herramientas avanzadas para detectar y autenticar contenidos generados por IA. Estas iniciativas incluyen la implementación de marcas de agua resistentes a manipulaciones, destinadas a garantizar la integridad de las imágenes en entornos digitales cada vez más propensos a la desinformación. La información fue publicada por la agencia El País.

Los usuarios de redes sociales se encuentran en la primera línea de esta batalla contra la desinformación. Con herramientas accesibles como DALL-E, Firefly y Midjourney, cualquier persona puede crear contenido digital hiperrealista sin requerir habilidades técnicas especializadas. Sin embargo, esta democratización también ha facilitado la propagación de imágenes falsas con potencial para influir en opiniones públicas y dañar reputaciones.

En un contexto donde figuras públicas como el papa Francisco o Donald Trump pueden ser representadas de manera falsa en imágenes virales, la capacidad de la IA para generar contenido engañoso ha alcanzado niveles preocupantes. Estas prácticas no solo pueden alterar percepciones y distorsionar la realidad, sino también afectar la cohesión social al dividir comunidades étnicas, religiosas o raciales.

Expertos en seguridad digital, como Josep Albors de ESET España, advierten sobre el impacto potencial de estos bulos en procesos electorales y otros aspectos de la vida pública. En este sentido, ser escéptico ante todo contenido online se ha convertido en una habilidad crucial para los usuarios conscientes de las realidades paralelas que la IA puede crear.

El proceso de verificación de imágenes generadas por IA implica observar detalles meticulosos, como variaciones en tonos de piel y anomalías en la composición de las imágenes. Herramientas especializadas como AI or NOT, Sensity, FotoForensics y Hive Moderation juegan un papel crucial al proporcionar métodos objetivos para determinar la autenticidad de las imágenes en cuestión.

OpenAI, por su parte, está desarrollando nuevas herramientas para detectar contenido generado por su plataforma DALL-E, mientras que VerificAudio se enfoca en identificar deepfakes sonoros, reflejando el constante avance tecnológico y la sofisticación de las amenazas digitales.

A pesar de estos avances, la verificación de imágenes sigue siendo un desafío debido a la falta de contexto y conocimientos previos que limitan la precisión de las herramientas actuales. Además, la enorme cantidad de imágenes generadas por IA, estimadas en 15,000 millones en un año, subraya la urgencia de fortalecer los mecanismos de autenticación digital.

Truepic ha lanzado recientemente un «deepfake transparente» que incluye marcas de origen criptográficas, estableciendo un estándar para la autenticidad del contenido digital en el futuro. Sin embargo, hasta que estas soluciones sean ampliamente adoptadas, la crítica y la diligencia de los usuarios siguen siendo la mejor defensa contra la desinformación visual en plataformas online.

En conclusión, la creciente capacidad de la IA para generar imágenes convincentes plantea desafíos significativos para la confianza pública y la integridad de la información. Adoptar una postura crítica y utilizar herramientas verificadas son pasos fundamentales para mitigar los efectos perjudiciales de la desinformación digital en nuestra sociedad cada vez más digitalizada.