Numa era em que os geradores de imagens de IA se tornaram tão sofisticados que distinguir a realidade do algoritmo se tornou um hobby em tempo integral para teóricos da conspiração, a OpenAI anunciou duas novas medidas para ajudar a combater o problema. A empresa comprometeu-se com um padrão aberto chamado C2PA, que adiciona um sinal claro nos metadados de que uma imagem foi gerada por IA. A OpenAI também está fazendo parceria com o Google para incluir uma marca d'água invisível chamada SynthID, que será mais difícil de detectar, mas também mais difícil de apagar se malfeitores tentarem encobrir seus rastros.

As novas proteções se aplicam apenas a imagens geradas por produtos da OpenAI, portanto não afetarão a enxurrada de imagens vindas de ferramentas de IA menos respeitáveis; elas podem ajudar a garantir que a OpenAI não faça parte do problema. A OpenAI também está apresentando uma ferramenta de verificação pública que verificará ambos os sinais, permitindo que os usuários testem facilmente se uma imagem foi gerada usando IA. Inicialmente, a ferramenta se estenderá apenas a imagens geradas por produtos da OpenAI; a empresa espera expandi-la para cobrir outras ferramentas ao longo do tempo.

Fundada em 2021, a Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA) é uma organização sem fins lucrativos dedicada a mitigar os efeitos nocivos das imagens de IA no discurso público. O padrão C2PA foi adotado por uma série de produtos do Google, mas a adoção permanece inconsistente em toda a indústria. Como o sinal C2PA está claramente acessível nos metadados de cada arquivo, ele pode ser manipulado e é mais útil entre usuários confiáveis.

O SynthID é um esforço mais recente, projetado para ser uma medida mais robusta contra interferências. Desenvolvido pelo Google, a marca d'água SynthID é projetada para persistir mesmo quando malfeitores tentam removê-la, seja por meio de capturas de tela, redimensionamento ou manipulação digital. Os dois sistemas destinam-se a complementar-se, cada um abordando as fraquezas do outro. "A marca d'água pode ser mais durável através de transformações como capturas de tela, enquanto os metadados podem fornecer mais informações do que uma marca d'água sozinha", observou a OpenAI em seu anúncio. "Juntos, eles tornam a proveniência mais resiliente do que qualquer camada seria por si só."