In un'epoca in cui i generatori di immagini AI sono diventati così sofisticati che distinguere la realtà dall'algoritmo è diventato un hobby a tempo pieno per i teorici della cospirazione, OpenAI ha annunciato due nuove misure per aiutare a combattere il problema. L'azienda si è impegnata a rispettare uno standard aperto chiamato C2PA, che aggiunge un segnale chiaro nei metadati che un'immagine è stata generata dall'AI. OpenAI sta anche collaborando con Google per includere una filigrana invisibile chiamata SynthID, che sarà più difficile da rilevare, ma anche più difficile da cancellare se i malintenzionati cercano di coprire le loro tracce.
Le nuove protezioni si applicano solo alle immagini generate dai prodotti OpenAI, quindi non influenzeranno il diluvio di immagini provenienti da strumenti AI meno affidabili; possono aiutare a garantire che OpenAI non faccia parte del problema. OpenAI sta anche presentando in anteprima uno strumento di verifica pubblica che controllerà entrambi i segnali, consentendo agli utenti di testare facilmente se un'immagine è stata generata utilizzando l'AI. Inizialmente, lo strumento si estenderà solo alle immagini generate dai prodotti OpenAI; l'azienda spera di espanderlo per coprire altri strumenti nel tempo.
Fondata nel 2021, la Coalition for Content Provenance and Authenticity (C2PA) è un'organizzazione no-profit dedicata a mitigare gli effetti dannosi delle immagini AI sul discorso pubblico. Lo standard C2PA è stato adottato da una serie di prodotti Google, ma l'adozione rimane incoerente in tutto il settore. Poiché il segnale C2PA è chiaramente accessibile nei metadati di ogni file, può essere manipolato ed è più utile tra utenti fidati.
SynthID è uno sforzo più recente progettato per essere una misura più robusta contro le manomissioni. Sviluppata da Google, la filigrana SynthID è progettata per persistere anche quando i malintenzionati tentano di rimuoverla, tramite screenshot, ridimensionamento o manipolazione digitale. I due sistemi sono pensati per completarsi a vicenda, ciascuno affrontando le debolezze dell'altro. "La filigrana può essere più durevole attraverso trasformazioni come gli screenshot, mentre i metadati possono fornire più informazioni di una semplice filigrana", ha osservato OpenAI nel suo annuncio. "Insieme, rendono la provenienza più resiliente di quanto ogni strato sarebbe da solo."