In een tijdperk waarin AI-beeldgeneratoren zo geavanceerd zijn geworden dat het onderscheiden van realiteit en algoritme een voltijdse hobby voor complotdenkers is geworden, heeft OpenAI twee nieuwe maatregelen aangekondigd om het probleem te helpen bestrijden. Het bedrijf heeft zich gecommitteerd aan een open standaard genaamd C2PA, die een duidelijk signaal in de metadata toevoegt dat een afbeelding door AI is gegenereerd. OpenAI werkt ook samen met Google om een onzichtbaar watermerk genaamd SynthID op te nemen, dat moeilijker te detecteren is, maar ook moeilijker te verwijderen als kwaadwillenden hun sporen proberen uit te wissen.

De nieuwe beschermingen zijn alleen van toepassing op afbeeldingen die door OpenAI-producten zijn gegenereerd, dus ze hebben geen invloed op de stroom beelden van minder gerenommeerde AI-tools; ze kunnen helpen ervoor te zorgen dat OpenAI geen deel uitmaakt van het probleem. OpenAI geeft ook een voorproefje van een openbaar verificatiehulpmiddel dat beide signalen controleert, zodat gebruikers gemakkelijk kunnen testen of een afbeelding met AI is gegenereerd. In eerste instantie zal het hulpmiddel alleen werken voor afbeeldingen die door OpenAI-producten zijn gegenereerd; het bedrijf hoopt het in de loop van de tijd uit te breiden naar andere tools.

Opgericht in 2021, is de Coalition for Content Provenance and Authenticity (C2PA) een non-profitorganisatie die zich toelegt op het beperken van de schadelijke effecten van AI-beeldmateriaal op het publieke debat. De C2PA-standaard is overgenomen door een reeks Google-producten, maar de adoptie blijft inconsistent in de hele industrie. Omdat het C2PA-signaal duidelijk toegankelijk is in de metadata van elk bestand, kan het worden gemanipuleerd en is het het meest nuttig onder vertrouwde gebruikers.

SynthID is een nieuwere inspanning die is ontworpen als een robuustere maatregel tegen inmenging. Ontwikkeld door Google, is het SynthID-watermerk ontworpen om te blijven bestaan, zelfs wanneer kwaadwillenden proberen het te verwijderen, hetzij via screenshots, formaatwijzigingen of digitale manipulatie. De twee systemen zijn bedoeld om elkaar aan te vullen, waarbij elk de zwakke punten van de ander aanpakt. "Watermerken kan duurzamer zijn bij transformaties zoals screenshots, terwijl metadata meer informatie kan bieden dan een watermerk alleen," merkte OpenAI op in zijn aankondiging. "Samen maken ze herkomst veerkrachtiger dan elke laag afzonderlijk zou zijn."