Googles SynthID-System wurde genutzt, um einen hochkarätigen KI-generierten Hoax zu entlarven – ein seltener, aber bedeutender Erfolg für das System.

Anfang dieser Woche kursierte online ein Bild, das den Senator aus Kentucky, Mitch McConnell, mit Schläuchen bedeckt in einem Krankenhausbett in äußerster Not zu zeigen schien. Das Bild wurde auf Reddit und X weit verbreitet, aber bis Mittwoch hatte die angesehene Faktencheck-Seite Snopes das Bild entlarvt und darauf hingewiesen, dass es bei der Überprüfung als Bild mit dem SynthID-Wasserzeichen registriert wird, das von Google entwickelt wurde, um KI-generierte Bilder zu identifizieren.

Kurz gesagt, das Wasserzeichen funktionierte genau wie vorgesehen – ein Sieg für die Anti-Deepfake-Technologie.

Die Gesundheit von Senator McConnell ist Gegenstand intensiver Spekulationen, seit er nach einem Notruf am 14. Juni ins Krankenhaus eingeliefert wurde. Seitdem ist er weitgehend aus der Öffentlichkeit verschwunden, was Spekulationen nährt, dass sein Gesundheitszustand sich verschlechtern könnte. In diesem Fall jedoch erwiesen sich die Beweise als völlig gefälscht.

SynthID, das auf Googles I/O-Entwicklerkonferenz 2025 vorgestellt wurde, funktioniert als unsichtbare Signatur, die für SynthID-Algorithmen sichtbar, aber für den flüchtigen Betrachter nicht wahrnehmbar ist. Da die Signatur in das Bild selbst eingebaut ist, überlebt sie selbst dann, wenn ein Bild über mehrere Plattformen hinweg abfotografiert wird, wie es beim McConnell-Bild der Fall war.

Die Hauptbeschränkung von SynthID besteht darin, dass es nur verwendet werden kann, wenn ein Bildgenerierungstool aktiv am Programm teilnimmt. Gemini-Modelle enthalten das Wasserzeichen seit dem Start des Programms im Jahr 2025. OpenAI schloss sich im Mai 2026 an, als Teil einer breiteren Anstrengung zur Bekämpfung bösartiger Bildgenerierung. Anthropic nimmt nicht am Programm teil.

Nutzer können überprüfen, ob Bilder das Wasserzeichen enthalten, indem sie ein Gemini-Modell fragen oder sie in das öffentliche Bildverifizierungstool von OpenAI hochladen.