OpenAI führt einen speziellen ChatGPT-Modus für Jugendliche ein, der bestehende Jugendschutzmaßnahmen mit einigen neuen Sicherheitsfunktionen unter einem jugendfreundlichen Banner bündelt. Der Schritt kommt, während das Unternehmen zunehmend öffentlicher Kritik ausgesetzt ist, wie KI-Tools jüngere Nutzer beeinflussen, und andere Plattformen ebenfalls eigene Altersüberprüfungen und jugendspezifische Schutzmaßnahmen einführen.

ChatGPT für Jugendliche ist "ein Erlebnis, das entwickelt wurde, um Jugendlichen zu helfen, zu lernen, kritisch zu denken, Verständnis zu vertiefen und KI mit Zuversicht zu nutzen", erklärte OpenAI in einem Blogbeitrag am Dienstag. Der Modus wird automatisch auf Nutzer angewendet, die sich als zwischen 13 und 17 Jahren identifizieren, sowie auf diejenigen, die das System auf unter 18 schätzt. Kinder unter 13 sind laut der veröffentlichten Altersrichtlinie von OpenAI nicht auf der Plattform erlaubt - also nein, dein 12-Jähriger kann nicht einfach behaupten, 13 zu sein und damit durchkommen. Eigentlich kann er das wahrscheinlich schon, aber das ist eine andere Geschichte.

Das Jugenderlebnis wendet Schutzmaßnahmen standardmäßig an, einschließlich strengerer Beschränkungen für verbotene oder sensible Inhalte wie grafische Gewalt, Darstellungen von Selbstverletzung und sexuelles oder romantisches Rollenspiel. Es wird auch Warnungen und Sicherheitsinformationen zu Themen wie Essstörungen anzeigen, während es Eltern Kontrollen gibt, um Ruhezeiten festzulegen und Benachrichtigungen über Sicherheitswarnungen zu erhalten, wenn das System ein potenzielles Risiko kennzeichnet.

Weitere Funktionen zielen darauf ab, das zu fördern, was OpenAI als "gesunde, ausgewogene Nutzung" bezeichnet, einschließlich Erinnerungen beim Hochladen sensibler Bilder, jugendspezifisches Onboarding und Anpassungsoptionen wie Akzentfarben und Sprachvarianten. OpenAI fügt auch neue "verantwortungsvolle Hausaufgaben-Erinnerungen" hinzu, die laut Unternehmen erkennen können, wenn ein Jugendlicher versucht, "eine Aufgabe abzukürzen", und ihn zum speziellen Studienmodus von ChatGPT weiterleiten. Jugendliche oder Eltern können auch "Lernzeiten" festlegen, die den Studienmodus zu bestimmten Zeiten automatisch aktivieren - denn nichts sagt "gesundes Gleichgewicht" wie erzwungenes Lernen.

Obwohl OpenAI dies als glänzendes neues jugendzentriertes Erlebnis darstellt, sind viele der Schutzmaßnahmen nicht neu. Der Start konsolidiert weitgehend bestehende Sicherheitsvorkehrungen mit einer Handvoll kleinerer Ergänzungen und Anpassungen. OpenAI führte zu Beginn des Jahres Altersschätzungsfunktionen ein, während Elternkontrollen und Studienmodus vor etwa einem Jahr kamen. Das Unternehmen sagte, es würde Jugendlichen letzten Monat häufigere Pausenerinnerungen zeigen - eine Funktion, die ehrlich gesagt auch Erwachsene gebrauchen könnten.

OpenAI sagt, dass seine Jugendschutzmaßnahmen "durch laufende Sicherheitsforschung untermauert" sind und dass es plant, in Zukunft mehr von "dem, was wir lernen" zu veröffentlichen, sowie zusätzliche Sicherheitsfunktionen zu entwickeln, um Jugendlichen zu helfen, von KI zu profitieren. "Aber dieser Zugang sollte mit Schutzmaßnahmen einhergehen, die ihre Entwicklungsstufe widerspiegeln, reale Beziehungen stärken und gesunde Nutzung im Laufe der Zeit unterstützen. ChatGPT für Jugendliche ist unser nächster Schritt, um diesen Standard zu erreichen." Wir werden es glauben, wenn die Hausaufgaben-Erinnerungen tatsächlich funktionieren.