À une époque où les générateurs d'images par IA sont devenus si sophistiqués que distinguer la réalité de l'algorithme est devenu un passe-temps à plein temps pour les théoriciens du complot, OpenAI a annoncé deux nouvelles mesures pour aider à lutter contre ce problème. L'entreprise s'est engagée à adopter une norme ouverte appelée C2PA, qui ajoute un signal clair dans les métadonnées indiquant qu'une image a été générée par IA. OpenAI s'associe également à Google pour inclure un filigrane invisible appelé SynthID, qui sera plus difficile à détecter, mais aussi plus difficile à effacer si des acteurs malveillants tentent de masquer leurs traces.
Les nouvelles protections ne s'appliquent qu'aux images générées par les produits OpenAI, elles n'affecteront donc pas le flot d'images provenant d'outils d'IA moins réputés ; elles peuvent aider à garantir qu'OpenAI ne fait pas partie du problème. OpenAI présente également en avant-première un outil de vérification publique qui vérifiera les deux signaux, permettant aux utilisateurs de tester facilement si une image a été générée par IA. Dans un premier temps, l'outil ne s'appliquera qu'aux images générées par les produits OpenAI ; l'entreprise espère l'étendre à d'autres outils au fil du temps.
Fondée en 2021, la Coalition for Content Provenance and Authenticity (C2PA) est une organisation à but non lucratif dédiée à l'atténuation des effets néfastes des images générées par IA sur le discours public. La norme C2PA a été adoptée par une gamme de produits Google, mais son adoption reste incohérente dans l'industrie. Étant donné que le signal C2PA est clairement accessible dans les métadonnées de chaque fichier, il peut être manipulé et est surtout utile parmi les utilisateurs de confiance.
SynthID est un effort plus récent conçu pour être une mesure plus robuste contre les manipulations. Développé par Google, le filigrane SynthID est conçu pour persister même lorsque des acteurs malveillants tentent de le supprimer, que ce soit par des captures d'écran, des redimensionnements ou des manipulations numériques. Les deux systèmes sont censés se compléter, chacun répondant aux faiblesses de l'autre. « Le filigrane peut être plus durable lors de transformations comme les captures d'écran, tandis que les métadonnées peuvent fournir plus d'informations qu'un simple filigrane », a noté OpenAI dans son annonce. « Ensemble, ils rendent la provenance plus résiliente que ne le serait chaque couche individuellement. »