Common Sense Media sagt, ChatGPT für Teenager sei ein „unakzeptables Risiko“, OpenAI sagt, die Tests seien einfach schlecht gewesen

Common Sense Media, die gemeinnützige Organisation, die Apps und Unterhaltung mit Blick auf die Sicherheit von Jugendlichen bewertet, hat OpenAIs ChatGPT für Teenager als „unakzeptables Risiko“ eingestuft. Die Funktion, die im August eingeführt wurde, kommt mit speziellen Schutzmaßnahmen für Teenager und wird als Lernhilfe für Schülerinnen und Schüler angepriesen – doch Common Sense sagt, diese Schutzmaßnahmen „bleiben hinter dem zurück, was das Unternehmen versprochen hat“.

Laut der Bewertung der Organisation sendet ChatGPT „keine Warnungen an Eltern, wenn es sollte“, bietet nicht „die richtige Hilfe in Krisensituationen“ und – was wohl der am wenigsten überraschende Befund in der Tech-Branche dieses Jahr ist – „macht immer noch die Hausaufgaben der Kinder“.

„ChatGPT für Teenager könnte Eltern ein falsches Gefühl der Sicherheit bei Schutzmaßnahmen und Sicherheitswarnungen geben, die häufig nicht funktionieren“, sagte Tom Siegel, Executive Director des Youth AI Safety Institute von Common Sense Media. „Ein Teenager kann eine Stunde lang über Selbstverletzung sprechen, ohne dass die Eltern eine einzige Warnung erhalten. Bis OpenAI das behebt und es durch unabhängige Tests beweist, sollte ChatGPT nur für Erwachsene sein.“

OpenAI wehrt sich seinerseits. Sprecher Eric Porterfield sagte, das Unternehmen sei „zutiefst der Sicherheit von Teenagern verpflichtet“ und begrüße „rigorose unabhängige Evaluierungen“, argumentierte jedoch, dass die Tests von Common Sense Media „nicht genau widerspiegeln, wie die Schutzmaßnahmen von ChatGPT für Teenager in der Praxis funktionieren oder wie Experten die Unterstützung von Teenagern durch KI sehen“. Porterfield behauptete, dass „der Großteil ihrer Tests möglicherweise begonnen und abgeschlossen wurde, bevor die Aktivierung der elterlichen Kontrollen abgeschlossen war, was ihre Ergebnisse ungenau macht“. Wenn das der Fall sei, fügte er hinzu, würden die Tests „nicht feststellen, ob die Sicherheitsbenachrichtigungen für Eltern wie vorgesehen funktionieren“.

Siegel, als ihm OpenAIs Erklärung gezeigt wurde, ließ sich nicht überzeugen. „Wir stehen hinter unserer Testmethodik und unseren Ergebnissen“, sagte er. „Bevor wir mit dem Testen begannen, haben wir mit OpenAI bestätigt, dass Teenager-Modus-Funktionen wie Benachrichtigungen bei Essstörungen und der Lernmodus vollständig eingeführt waren.“

Er räumte eine Unwägbarkeit ein: OpenAI gab nach den Tests bekannt, dass seine Systeme mehrere Stunden brauchen können, um bei neu verknüpften Konten aktiviert zu werden, und einige Testkonten wurden innerhalb dieses Zeitfensters verknüpft. Andere waren jedoch deutlich länger verknüpft und erzeugten immer noch keine Benachrichtigungen. „Diese neuen Informationen ändern nichts an unserer Schlussfolgerung, dass elterliche Warnungen in Krisensituationen unzuverlässig sind“, sagte Siegel.

Common Sense Media sagt, es habe seine Bewertungsergebnisse vor der Veröffentlichung „in gutem Glauben“ mit OpenAI geteilt, „um dem Unternehmen zu ermöglichen, sein Produkt zu verbessern“, und hofft, dass das Unternehmen „sich mit der Substanz unserer Feststellungen auseinandersetzt, anstatt zu versuchen, Zweifel an unserer Methodik zu säen“. OpenAI wiederum sagt, es bleibe der Zusammenarbeit mit Experten verpflichtet, damit Teenager lernen und kreativ sein können – und Eltern sich sicher fühlen können. Ob dieses Vertrauen gerechtfertigt ist, bleibt wie immer eine Frage unabhängiger Tests.