Je leistungsfähiger KI-Modelle werden, desto größer wird auch das Potenzial für Unfug – und der Chor der Stimmen, die Schutzmaßnahmen fordern. KI-Unternehmen stehen nun vor der heiklen Aufgabe, die Privatsphäre von Unternehmenskunden zu respektieren und gleichzeitig nach Missbrauch Ausschau zu halten. OpenAI hat die Chance gewittert, Rivale Anthropic zu übertreffen, und eine datenschutzzentrierte Methode zur Überwachung von Missbrauch angekündigt: Private Safety Processing. Dieses automatisierte System achtet auf potenziellen Missbrauch, ohne dabei Kundendaten zu speichern – denn anscheinend kann man den Kuchen haben und ihn auch essen, wenn der Kuchen aus Algorithmen besteht.

Dieser Schritt ist eine direkte Antwort auf die kürzlich angekündigte Datenaufbewahrungsrichtlinie von Anthropic, die einige Kunden verärgert hat. Diese Richtlinie, die im Juli in Kraft trat, erlaubt es dem KI-Labor, Nutzerdaten – alle Sitzungen und Gespräche – 30 Tage lang aufzubewahren, wenn es um "abgedeckte Modelle" geht, einschließlich aller Mythos-Klassen-Modelle und "zukünftiger Modelle mit ähnlichen Fähigkeiten". Die Richtlinie wurde aus Sicherheitsgründen entwickelt, damit das Labor nach möglichem Fehlverhalten suchen kann. Sie hat jedoch Unternehmen, die mit sensiblen Daten umgehen, zutiefst beunruhigt, da sie nicht möchten, dass ihre Informationen vom KI-Labor aufbewahrt oder überprüft werden.

OpenAI bietet, wie die meisten KI-Unternehmen, bereits ein gewisses Maß an Privatsphäre durch Zero Data Retention (ZDR). ZDR verwendet Agenten innerhalb der OpenAI-API, um Missbrauch auf Sitzungsebene zu überwachen, sodass Kundendaten nicht gespeichert werden, aber schlechte Aktivitäten ohne menschliches Eingreifen gekennzeichnet werden können. Bemerkenswerterweise hält sich auch Anthropic an ZDR – außer für "abgedeckte Modelle" wie Fable.

OpenAI sagt, dass Private Safety Processing den Umfang von ZDR erweitert. Es ist eine Form der Langzeit-Sicherheitsüberwachung, die Eingaben und Ausgaben über mehrere Gespräche hinweg bewertet, nicht nur über eines. Die Überwachung erfolgt durch einen Agenten, der, wenn er ausgelöst wird, Interaktionen erfasst und sie über Sitzungen hinweg auf Anzeichen von Missbrauch analysiert. Dies hilft, böswillige Nutzung zu erkennen, die sich über mehrere Sitzungen erstreckt – wie ein böser Akteur, der versucht, Malware zu entwickeln, indem er Anfragen verteilt, um einer Erkennung zu entgehen. Private Safety Processing kann diese Gespräche ohne menschliche Überprüfung auf Missbrauch analysieren.

Wenn ausgelöst, kann das System ein "eng definiertes Signal" an OpenAI senden, das vor bestimmten Aktivitäten warnt. Auf dieser Grundlage kann OpenAI entscheiden, ob "Durchsetzung erforderlich" ist. Wenn ja, werden sie sich an den Kunden wenden, um Kontext zu erhalten oder an dem Problem zu arbeiten, und der Kunde kann nach eigenem Ermessen Daten teilen. In der Zwischenzeit stellt Anthropic fest, dass eine menschliche Überprüfung von Kundendaten erfolgen kann, jedoch nur über einen "kontrollierten Zugriffspfad", der "eine kleine Gruppe von zugelassenen Prüfern" umfasst, wobei jede Überprüfungssitzung in einem manipulationssicheren Protokoll aufgezeichnet wird, das Prüfer nicht unterdrücken oder ändern können.

Die Unternehmensrivalität zwischen OpenAI und Anthropic wird immer intensiver, wobei beide nach jedem Vorteil streben. Ein aktueller Bericht zeigte, dass OpenAIs Q2-Wachstum langsamer war als das von Anthropic, dessen annualisierte Umsatzrate Berichten zufolge 65 Milliarden Dollar beträgt. Anthropic-Investoren haben einen Börsengang mit 2 Billionen Dollar ins Spiel gebracht, während OpenAI auch an seinem Börsengang arbeitet. Im Rennen um das Vertrauen von Unternehmen hat OpenAI gerade den Datenschutz-Handschuh hingeworfen – und er ist in Nullen und Einsen gewickelt.