Common Sense Media, de non-profitorganisatie die apps en entertainment beoordeelt met het oog op jeugdveiligheid, heeft OpenAI's ChatGPT voor Tieners bestempeld als een "onacceptabel risico". De functie, in augustus geïntroduceerd, komt met tienerspecifieke waarborgen en wordt gepresenteerd als een leermiddel voor scholieren - maar volgens Common Sense schieten die beschermingen "tekort ten opzichte van wat het bedrijf beloofde".

Volgens de beoordeling van de organisatie stuurt ChatGPT "geen waarschuwingen naar ouders wanneer dat wel zou moeten", biedt het niet "de juiste hulp in crisissituaties", en - in wat misschien wel de minst verrassende bevinding in de techwereld dit jaar is - "maakt het nog steeds huiswerk voor kinderen".

"ChatGPT voor Tieners zou ouders een vals gevoel van vertrouwen kunnen geven in waarborgen en veiligheidswaarschuwingen die vaak niet werken", zei Tom Siegel, uitvoerend directeur van het Youth AI Safety Institute van Common Sense Media. "Een tiener kan een uur lang praten over zelfbeschadiging zonder dat hun ouder ook maar één waarschuwing krijgt. Totdat OpenAI dat oplost en het bewijst met onafhankelijke tests, zou ChatGPT alleen voor volwassenen moeten zijn."

OpenAI spreekt dat tegen. Woordvoerder Eric Porterfield zei dat het bedrijf "diep toegewijd is aan tienerveiligheid" en "rigoureuze onafhankelijke evaluatie" verwelkomt, maar voerde aan dat de tests van Common Sense Media "niet accuraat weergeven hoe de tienervaarborgen van ChatGPT in de praktijk werken of wat deskundigen vinden van hoe AI tieners kan ondersteunen". Porterfield beweerde dat "het grootste deel van hun tests mogelijk is begonnen en afgerond voordat de activering van ouderlijke controles voltooid was, waardoor hun bevindingen onnauwkeurig zijn". Als dat het geval was, voegde hij eraan toe, "zouden de tests niet vaststellen of ouderlijke veiligheidsmeldingen werken zoals bedoeld".

Siegel, toen hem de verklaring van OpenAI werd voorgelegd, was niet overtuigd. "Wij staan achter onze testmethodologie en onze resultaten", zei hij. "Voordat we begonnen met testen, hebben we met OpenAI bevestigd dat Teen-modusfuncties zoals meldingen over eetstoornissen en studiemodus volledig waren gelanceerd."

Hij erkende één complicatie: OpenAI onthulde na de tests dat zijn systemen enkele uren nodig kunnen hebben om te activeren op nieuw gekoppelde accounts, en sommige testaccounts waren binnen dat venster gekoppeld. Maar andere waren al veel langer gekoppeld en produceerden nog steeds geen meldingen. "Deze nieuwe informatie verandert onze conclusie niet dat ouderlijke waarschuwingen onbetrouwbaar zijn voor crisissituaties", zei Siegel.

Common Sense Media zegt dat het zijn evaluatieresultaten vóór publicatie met OpenAI heeft gedeeld "in goed vertrouwen om het bedrijf in staat te stellen zijn product te verbeteren", en hoopt dat het bedrijf "zich zal bezighouden met de inhoud van wat wij hebben gevonden, in plaats van twijfel te proberen te zaaien over onze methodologie". OpenAI zegt ondertussen toegewijd te blijven aan samenwerking met deskundigen zodat tieners kunnen leren en creëren - en ouders zich zelfverzekerd kunnen voelen. Of dat vertrouwen gerechtvaardigd is, blijft zoals altijd een kwestie van onafhankelijke tests.