I en era där AI-bildgeneratorer blivit så sofistikerade att det blivit en heltidssysselsättning för konspirationsteoretiker att skilja verklighet från algoritm, har OpenAI meddelat två nya åtgärder för att bekämpa problemet. Företaget har förbundit sig till en öppen standard som kallas C2PA, som lägger till en tydlig signal i metadata om att en bild genererats av AI. OpenAI samarbetar också med Google för att inkludera en osynlig vattenstämpel som kallas SynthID, som blir svårare att upptäcka, men också svårare att radera om illasinnade aktörer försöker dölja sina spår.
De nya skydden gäller endast bilder som genererats av OpenAI-produkter, så de påverkar inte floden av bilder från mindre ansedda AI-verktyg; de kan hjälpa till att säkerställa att OpenAI inte är en del av problemet. OpenAI förhandsvisar också ett offentligt verifieringsverktyg som kommer att kontrollera båda signalerna, vilket gör att användare enkelt kan testa om en bild genererats med AI. Inledningsvis kommer verktyget endast att omfatta bilder genererade av OpenAI-produkter; företaget hoppas kunna utöka det till att täcka andra verktyg över tid.
Grundad 2021 är Coalition for Content Provenance and Authenticity (C2PA) en ideell organisation dedikerad till att mildra de skadliga effekterna av AI-bilder på den offentliga diskursen. C2PA-standarden har antagits av en rad Google-produkter, men antagandet är fortfarande inkonsekvent över branschen. Eftersom C2PA-signalen är tydligt tillgänglig i metadata för varje fil, kan den manipuleras och är mest användbar bland betrodda användare.
SynthID är en nyare satsning utformad för att vara en mer robust åtgärd mot manipulering. Utvecklad av Google är SynthID-vattenstämpeln utformad för att bestå även när illasinnade aktörer försöker ta bort den, antingen genom skärmdumpar, storleksändring eller digital manipulation. De två systemen är tänkta att komplettera varandra, där var och en åtgärdar den andras svagheter. ”Vattenmärkning kan vara mer hållbar genom transformationer som skärmdumpar, medan metadata kan ge mer information än en vattenstämpel ensam”, noterade OpenAI i sitt tillkännagivande. ”Tillsammans gör de proveniens mer motståndskraftig än något lager skulle vara på egen hand.”