Il sistema SynthID di Google è stato utilizzato per smascherare un'immagine fake generata dall'IA di alto profilo, una rara ma significativa vittoria per il sistema.

All'inizio di questa settimana, una foto ha iniziato a circolare online che sembrava mostrare il senatore del Kentucky Mitch McConnell coperto di tubi in un letto d'ospedale in uno stato di estrema sofferenza. L'immagine è stata ampiamente condivisa su Reddit e X, ma entro mercoledì il venerato sito di fact-checking Snopes l'aveva smascherata, notando che, una volta controllata, l'immagine risultava contenere la filigrana SynthID progettata da Google per identificare le immagini generate dall'IA.

In breve, la filigrana ha funzionato esattamente come previsto, una vittoria per la tecnologia anti-deepfake.

La salute del senatore McConnell è stata oggetto di intense speculazioni da quando è stato ricoverato in ospedale dopo una chiamata di emergenza il 14 giugno. Da allora, è stato in gran parte assente dalla scena pubblica, alimentando le speculazioni che la sua salute possa essere in declino. In questo caso, tuttavia, le prove si sono rivelate completamente false.

Lanciato alla conferenza per sviluppatori I/O di Google nel 2025, SynthID funziona come una firma invisibile, visibile agli algoritmi SynthID ma progettata per essere impercettibile all'osservatore casuale. Poiché la firma è incorporata nell'immagine stessa, sopravvive anche quando un'immagine viene catturata tramite screenshot su più piattaforme, come è successo per l'immagine di McConnell.

Il principale limite di SynthID è che può essere utilizzato solo quando uno strumento di generazione di immagini partecipa attivamente al programma. I modelli Gemini includono la filigrana dal lancio del programma nel 2025. OpenAI si è unita nel maggio 2026, come parte di uno sforzo più ampio per combattere la generazione di immagini dannose. Anthropic non partecipa al programma.

Gli utenti possono verificare se le immagini contengono la filigrana chiedendo a un modello Gemini o caricandole sullo strumento pubblico di verifica delle immagini di OpenAI.