OpenAI führt eine neue optionale Sicherheitsfunktion für ChatGPT ein, mit der erwachsene Nutzer einen Notfallkontakt für psychische Gesundheits- und Sicherheitsbedenken festlegen können. Freunde, Familienmitglieder oder Betreuer, die als „Vertrauenskontakt“ benannt werden, werden benachrichtigt, wenn OpenAIs Systeme erkennen, dass ein Nutzer Themen wie Selbstverletzung oder Suizid mit dem Chatbot besprochen hat.

„Vertrauenskontakt wurde um eine einfache, von Experten validierte Prämisse herum entwickelt: Wenn jemand in einer Krise steckt, kann die Verbindung mit einer Person, die er kennt und der er vertraut, einen bedeutenden Unterschied machen“, sagte OpenAI in seiner Ankündigung, vermutlich mit ernster Miene. „Es bietet eine weitere Unterstützungsebene neben den bereits in ChatGPT verfügbaren lokalen Hilfstelefonen.“

Die Funktion ist freiwillig, denn nichts sagt „Mir geht’s gut, wirklich“ wie sich freiwillig anzumelden, damit ein Roboter einen verpetzt. Jeder erwachsene ChatGPT-Nutzer kann sie aktivieren, indem er in seinen ChatGPT-Kontoeinstellungen Kontaktdaten eines anderen Erwachsenen (weltweit 18+ oder 19+ in Südkorea, weil die Bots offenbar die internationalen Alkoholaltersgrenzen respektieren) hinzufügt. Der Vertrauenskontakt muss die Einladung innerhalb einer Woche annehmen – also kein passiv-aggressives Ignorieren erlaubt. Nutzer können ihren ausgewählten Kontakt jederzeit entfernen oder bearbeiten, und der Vertrauenskontakt kann auch jederzeit aussteigen.

OpenAI sagt, die Benachrichtigung sei „absichtlich begrenzt“ und werde keine tatsächlichen Chat-Transkripte teilen – denn nichts sagt „Vertrauen“ wie eine vage Warnung. Wenn OpenAIs automatisierte Systeme Selbstverletzungsgespräche erkennen, wird ChatGPT den Nutzer zunächst ermutigen, seinen Vertrauenskontakt zu kontaktieren, und ihn warnen, dass der Kontakt benachrichtigt werden könnte. Ein „kleines Team speziell geschulter Personen“ wird dann die Situation überprüfen, und wenn es ernst ist, sendet ChatGPT eine kurze E-Mail, SMS oder In-App-Benachrichtigung an den Vertrauenskontakt.

Dies baut auf der Notfallkontaktfunktion auf, die im September zusammen mit den elterlichen Kontrollen von ChatGPT eingeführt wurde, nachdem ein 16-Jähriger Selbstmord begangen hatte, nachdem er monatelang dem Chatbot sein Herz ausgeschüttet hatte. Meta hat ebenfalls eine ähnliche Funktion hinzugefügt, die Eltern alarmiert, wenn ihre Kinder auf Instagram „wiederholt“ nach Selbstverletzungsthemen suchen – denn offenbar hat die Tech-Branche entdeckt, dass das Ignorieren der Nutzersicherheit vielleicht, nur vielleicht, nicht das beste Geschäftsmodell ist.