Common Sense Media, den ideella organisationen som granskar appar och underhållning med ungdomars säkerhet i åtanke, har förklarat OpenAIs ChatGPT för tonåringar som en "oacceptabel risk". Funktionen, som introducerades i augusti, kommer med tonårsspecifika skyddsräcken och marknadsförs som ett inlärningsverktyg för studenter – men Common Sense säger att skyddet "inte lever upp till vad företaget lovade".

Enligt organisationens bedömning "skickar ChatGPT inte varningar till föräldrar när det borde", erbjuder inte "rätt hjälp i krissituationer" och – i vad som kanske är årets minst överraskande teknikfynd – "gör fortfarande barnens läxor".

"ChatGPT för tonåringar kan ge föräldrar falsk trygghet i skyddsräcken och säkerhetsvarningar som ofta inte fungerar", säger Tom Siegel, verkställande direktör för Common Sense Medias Youth AI Safety Institute. "En tonåring kan prata i en timme om självskada utan att deras förälder får en enda varning. Tills OpenAI åtgärdar detta och bevisar det med oberoende tester, bör ChatGPT endast vara för vuxna."

OpenAI å sin sida motsätter sig. Talesperson Eric Porterfield säger att företaget är "djupt engagerat i tonårssäkerhet" och välkomnar "rigorös oberoende utvärdering", men hävdar att Common Sense Medias testning "inte korrekt återspeglar hur ChatGPTs tonårsskydd fungerar i praktiken eller experters perspektiv på hur AI kan stödja tonåringar". Porterfield hävdar att "större delen av deras testning kan ha börjat och avslutats innan aktiveringen av föräldrakontroller var slutförd, vilket gör deras resultat felaktiga". Om så var fallet, tillägger han, skulle testerna "inte fastställa huruvida föräldravarningar fungerar som avsett".

Siegel, när han visades OpenAIs uttalande, var inte övertygad. "Vi står bakom vår testmetodik och våra resultat", säger han. "Innan vi började testa bekräftade vi med OpenAI att tonårslägesfunktioner som ätstörningsaviseringar och studieläge var fullt lanserade."

Han medgav en komplikation: OpenAI avslöjade efter testerna att deras system kan ta flera timmar att aktivera på nyligen länkade konton, och vissa testkonton länkades inom det fönstret. Men andra hade varit länkade betydligt längre och gav fortfarande inga aviseringar. "Denna nya information ändrar inte vår slutsats att föräldravarningar är opålitliga för krissituationer", säger Siegel.

Common Sense Media säger att de delade sina utvärderingsresultat med OpenAI före publicering "i god tro för att tillåta dem att förbättra sin produkt", och hoppas att företaget kommer att "engagera sig i sakfrågan om vad vi hittade, snarare än att försöka så tvivel om vår metodik". OpenAI säger samtidigt att de fortsätter att arbeta med experter så att tonåringar kan lära sig och skapa – och föräldrar kan känna sig trygga. Huruvida den tryggheten är berättigad förblir, som alltid, en fråga om oberoende testning.