W erze, w której generatory obrazów AI stały się tak wyrafinowane, że odróżnianie rzeczywistości od algorytmu stało się pełnoetatowym hobby dla teoretyków spiskowych, OpenAI ogłosiło dwa nowe środki, które mają pomóc w walce z tym problemem. Firma zobowiązała się do otwartego standardu o nazwie C2PA, który dodaje wyraźny sygnał w metadanych, że obraz został wygenerowany przez AI. OpenAI współpracuje również z Google, aby dodać niewidoczny znak wodny o nazwie SynthID, który będzie trudniejszy do wykrycia, ale też trudniejszy do usunięcia, jeśli nieuczciwi gracze będą próbować zatrzeć ślady.

Nowe zabezpieczenia dotyczą tylko obrazów generowanych przez produkty OpenAI, więc nie wpłyną na powódź obrazów pochodzących z mniej renomowanych narzędzi AI; mogą jednak pomóc w zapewnieniu, że OpenAI nie jest częścią problemu. OpenAI udostępnia również wersję zapoznawczą publicznego narzędzia do weryfikacji, które będzie sprawdzać oba sygnały, umożliwiając użytkownikom łatwe sprawdzenie, czy obraz został wygenerowany przy użyciu AI. Początkowo narzędzie będzie działać tylko w przypadku obrazów wygenerowanych przez produkty OpenAI; firma ma nadzieję z czasem rozszerzyć je na inne narzędzia.

Założona w 2021 roku Koalicja na rzecz Pochodzenia i Autentyczności Treści (C2PA) to organizacja non-profit zajmująca się łagodzeniem szkodliwych skutków obrazów AI dla debaty publicznej. Standard C2PA został przyjęty przez szereg produktów Google, ale jego adopcja w branży pozostaje nierównomierna. Ponieważ sygnał C2PA jest wyraźnie dostępny w metadanych każdego pliku, może być manipulowany i jest najbardziej przydatny wśród zaufanych użytkowników.

SynthID to nowsze przedsięwzięcie zaprojektowane jako bardziej odporny na ingerencję środek. Opracowany przez Google znak wodny SynthID ma utrzymywać się nawet wtedy, gdy nieuczciwi gracze próbują go usunąć, czy to przez zrzuty ekranu, zmianę rozmiaru czy manipulację cyfrową. Oba systemy mają się wzajemnie uzupełniać, każdy adresując słabości drugiego. „Znakowanie wodne może być trwalsze w przypadku przekształceń, takich jak zrzuty ekranu, podczas gdy metadane mogą dostarczyć więcej informacji niż sam znak wodny” – zauważyło OpenAI w swoim ogłoszeniu. „Razem sprawiają, że pochodzenie jest bardziej odporne niż każda z warstw osobno.”