En una era donde los generadores de imágenes por IA se han vuelto tan sofisticados que distinguir la realidad del algoritmo se ha convertido en un pasatiempo de tiempo completo para los teóricos de la conspiración, OpenAI ha anunciado dos nuevas medidas para ayudar a combatir el problema. La empresa se ha comprometido con un estándar abierto llamado C2PA, que agrega una señal clara en los metadatos de que una imagen fue generada por IA. OpenAI también se asocia con Google para incluir una marca de agua invisible llamada SynthID, que será más difícil de detectar, pero también más difícil de borrar si los actores malintencionados intentan ocultar sus huellas.
Las nuevas protecciones solo se aplican a imágenes generadas por productos de OpenAI, por lo que no afectarán la avalancha de imágenes provenientes de herramientas de IA menos reputadas; pueden ayudar a garantizar que OpenAI no sea parte del problema. OpenAI también está presentando una herramienta de verificación pública que verificará ambas señales, permitiendo a los usuarios probar fácilmente si una imagen fue generada usando IA. Inicialmente, la herramienta solo se extenderá a imágenes generadas por productos de OpenAI; la empresa espera expandirla para cubrir otras herramientas con el tiempo.
Fundada en 2021, la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) es una organización sin fines de lucro dedicada a mitigar los efectos dañinos de las imágenes de IA en el discurso público. El estándar C2PA ha sido adoptado por una variedad de productos de Google, pero la adopción sigue siendo inconsistente en toda la industria. Debido a que la señal C2PA es claramente accesible en los metadatos de cada archivo, puede ser manipulada y es más útil entre usuarios de confianza.
SynthID es un esfuerzo más nuevo diseñado para ser una medida más robusta contra la manipulación. Desarrollado por Google, la marca de agua SynthID está diseñada para persistir incluso cuando los actores malintencionados intentan eliminarla, ya sea mediante capturas de pantalla, cambios de tamaño o manipulación digital. Los dos sistemas están destinados a complementarse entre sí, abordando cada uno las debilidades del otro. "La marca de agua puede ser más duradera a través de transformaciones como capturas de pantalla, mientras que los metadatos pueden proporcionar más información que una marca de agua sola", señaló OpenAI en su anuncio. "Juntos, hacen que la procedencia sea más resistente de lo que cualquier capa sería por sí sola".