Într-o eră în care generatoarele de imagini AI au devenit atât de sofisticate încât a distinge realitatea de algoritm a devenit un hobby cu normă întreagă pentru teoreticienii conspirației, OpenAI a anunțat două noi măsuri pentru a ajuta la combaterea problemei. Compania s-a angajat la un standard deschis numit C2PA, care adaugă un semnal clar în metadate că o imagine a fost generată de AI. OpenAI colaborează și cu Google pentru a include un filigran invizibil numit SynthID, care va fi mai greu de detectat, dar și mai greu de șters dacă actorii rău intenționați încearcă să-și acopere urmele.

Noile protecții se aplică doar imaginilor generate de produsele OpenAI, așa că nu vor afecta valul de imagini provenite de la instrumente AI mai puțin reputabile; ele pot ajuta la asigurarea că OpenAI nu face parte din problemă. OpenAI prezintă și un instrument public de verificare care va verifica ambele semnale, permițând utilizatorilor să testeze ușor dacă o imagine a fost generată cu ajutorul AI. Inițial, instrumentul se va extinde doar la imaginile generate de produsele OpenAI; compania speră să îl extindă pentru a acoperi și alte instrumente în timp.

Fondată în 2021, Coaliția pentru Proveniența și Autenticitatea Conținutului (C2PA) este o organizație non-profit dedicată atenuării efectelor nocive ale imaginilor AI asupra discursului public. Standardul C2PA a fost adoptat de o serie de produse Google, dar adoptarea rămâne inconsistentă în întreaga industrie. Deoarece semnalul C2PA este accesibil clar în metadatele fiecărui fișier, poate fi manipulat și este cel mai util printre utilizatorii de încredere.

SynthID este un efort mai nou conceput pentru a fi o măsură mai robustă împotriva intervențiilor. Dezvoltat de Google, filigranul SynthID este conceput să persiste chiar și atunci când actorii rău intenționați încearcă să îl elimine, fie prin capturi de ecran, redimensionare sau manipulare digitală. Cele două sisteme sunt menite să se completeze reciproc, fiecare abordând punctele slabe ale celuilalt. „Filigranarea poate fi mai durabilă prin transformări precum capturile de ecran, în timp ce metadatele pot oferi mai multe informații decât un simplu filigran”, a notat OpenAI în anunțul său. „Împreună, ele fac proveniența mai rezistentă decât ar fi oricare dintre straturi separat.”