Common Sense Media, organizacja non-profit, która recenzuje aplikacje i rozrywkę pod kątem bezpieczeństwa młodzieży, ogłosiła, że ChatGPT dla nastolatków od OpenAI stanowi „niedopuszczalne ryzyko”. Funkcja wprowadzona w sierpniu zawiera zabezpieczenia specjalnie dla nastolatków i jest reklamowana jako pomoc naukowa dla uczniów – ale Common Sense twierdzi, że te zabezpieczenia „nie spełniają obietnic firmy”.

Według oceny organizacji ChatGPT „nie wysyła powiadomień do rodziców, kiedy powinien”, nie oferuje „właściwej pomocy w sytuacjach kryzysowych” i – co może być najmniej zaskakującym odkryciem technologicznym tego roku – „nadal odrabia za dzieci prace domowe”.

„ChatGPT dla nastolatków może dawać rodzicom fałszywe poczucie bezpieczeństwa co do zabezpieczeń i alertów bezpieczeństwa, które często nie działają” – powiedział Tom Siegel, dyrektor wykonawczy Youth AI Safety Institute przy Common Sense Media. „Nastolatek może spędzić godzinę rozmawiając o samookaleczeniu, a rodzic nie otrzyma ani jednego alertu. Dopóki OpenAI tego nie naprawi i nie udowodni tego niezależnymi testami, ChatGPT powinien być tylko dla dorosłych”.

OpenAI ze swojej strony się broni. Rzecznik Eric Porterfield powiedział, że firma jest „głęboko zaangażowana w bezpieczeństwo nastolatków” i z zadowoleniem przyjmuje „rygorystyczną niezależną ocenę”, ale twierdzi, że testy Common Sense Media „nie odzwierciedlają dokładnie, jak zabezpieczenia dla nastolatków w ChatGPT działają w praktyce, ani eksperckich perspektyw na to, jak AI może wspierać nastolatków”. Porterfield twierdził, że „większość ich testów mogła rozpocząć się i zakończyć przed pełną aktywacją kontroli rodzicielskich, co czyni ich wyniki niedokładnymi”. Dodał, że w takim przypadku testy „nie ustaliłyby, czy powiadomienia bezpieczeństwa dla rodziców działają zgodnie z projektem”.

Siegel, gdy przedstawiono mu oświadczenie OpenAI, nie dał się przekonać. „Podtrzymujemy naszą metodologię testowania i nasze wyniki” – powiedział. „Przed rozpoczęciem testów potwierdziliśmy z OpenAI, że funkcje trybu dla nastolatków, takie jak powiadomienia o zaburzeniach odżywiania i tryb nauki, zostały w pełni uruchomione”.

Przyznał jednak pewien szczegół: OpenAI ujawniło po testach, że ich systemy mogą potrzebować kilku godzin na aktywację na nowo połączonych kontach, a niektóre konta testowe zostały połączone w tym oknie. Ale inne były połączone znacznie dłużej i nadal nie generowały żadnych powiadomień. „Ta nowa informacja nie zmienia naszego wniosku, że alerty dla rodziców są zawodne w sytuacjach kryzysowych” – powiedział Siegel.

Common Sense Media twierdzi, że udostępniło wyniki oceny OpenAI przed publikacją „w dobrej wierze, aby umożliwić firmie ulepszenie produktu” i ma nadzieję, że firma „zaangażuje się w istotę naszych ustaleń, zamiast próbować podważać naszą metodologię”. OpenAI tymczasem twierdzi, że pozostaje zaangażowane we współpracę z ekspertami, aby nastolatki mogły się uczyć i tworzyć – a rodzice czuć się pewnie. Czy ta pewność jest uzasadniona, pozostaje, jak zawsze, kwestią niezależnych testów.