In einer Ära, in der KI-Bildgeneratoren so ausgefeilt geworden sind, dass die Unterscheidung zwischen Realität und Algorithmus zu einem Vollzeithobby für Verschwörungstheoretiker geworden ist, hat OpenAI zwei neue Maßnahmen angekündigt, um das Problem zu bekämpfen. Das Unternehmen hat sich zu einem offenen Standard namens C2PA verpflichtet, der ein klares Signal in den Metadaten hinzufügt, dass ein Bild von KI generiert wurde. OpenAI arbeitet außerdem mit Google zusammen, um ein unsichtbares Wasserzeichen namens SynthID einzufügen, das schwerer zu erkennen, aber auch schwerer zu entfernen ist, wenn böswillige Akteure versuchen, ihre Spuren zu verwischen.

Die neuen Schutzmaßnahmen gelten nur für Bilder, die mit OpenAI-Produkten erstellt wurden, sodass sie die Flut von Bildern aus weniger seriösen KI-Tools nicht beeinträchtigen; sie können jedoch sicherstellen, dass OpenAI nicht Teil des Problems ist. OpenAI stellt außerdem ein öffentliches Verifizierungstool vor, das beide Signale überprüft und es Benutzern ermöglicht, einfach zu testen, ob ein Bild mit KI erstellt wurde. Zunächst wird das Tool nur für Bilder gelten, die mit OpenAI-Produkten erstellt wurden; das Unternehmen hofft, es im Laufe der Zeit auf andere Tools auszuweiten.

Die 2021 gegründete Coalition for Content Provenance and Authenticity (C2PA) ist eine gemeinnützige Organisation, die sich der Minderung der schädlichen Auswirkungen von KI-Bildern auf den öffentlichen Diskurs widmet. Der C2PA-Standard wurde von einer Reihe von Google-Produkten übernommen, aber die Akzeptanz in der Branche ist nach wie vor uneinheitlich. Da das C2PA-Signal in den Metadaten jeder Datei klar zugänglich ist, kann es manipuliert werden und ist am nützlichsten unter vertrauenswürdigen Benutzern.

SynthID ist eine neuere Initiative, die als robustere Maßnahme gegen Manipulationen konzipiert wurde. Das von Google entwickelte SynthID-Wasserzeichen ist so konzipiert, dass es auch dann bestehen bleibt, wenn böswillige Akteure versuchen, es zu entfernen, sei es durch Screenshots, Größenänderung oder digitale Manipulation. Die beiden Systeme sollen sich gegenseitig ergänzen, wobei jedes die Schwächen des anderen adressiert. „Wasserzeichen können durch Transformationen wie Screenshots haltbarer sein, während Metadaten mehr Informationen liefern können als ein Wasserzeichen allein“, stellte OpenAI in seiner Ankündigung fest. „Zusammen machen sie die Herkunft widerstandsfähiger, als jede Schicht für sich allein wäre.“