Common Sense Media, l'organizzazione no-profit che recensisce app e intrattenimento con un occhio alla sicurezza dei giovani, ha dichiarato che ChatGPT per adolescenti di OpenAI è un "rischio inaccettabile". La funzione, introdotta ad agosto, viene fornita con protezioni specifiche per adolescenti e viene presentata come un aiuto all'apprendimento per gli studenti - ma Common Sense afferma che tali protezioni "sono al di sotto di quanto promesso dall'azienda".

Secondo la valutazione dell'organizzazione, ChatGPT "non invia avvisi ai genitori quando dovrebbe", non offre "il giusto aiuto in situazioni di crisi" e - in quella che potrebbe essere la scoperta meno sorprendente nel mondo della tecnologia quest'anno - "continua a fare i compiti dei ragazzi".

"ChatGPT per adolescenti potrebbe dare ai genitori una falsa fiducia in protezioni e avvisi di sicurezza che spesso non funzionano", ha affermato Tom Siegel, direttore esecutivo dello Youth AI Safety Institute di Common Sense Media. "Un adolescente può passare un'ora a parlare di autolesionismo senza che il genitore riceva un solo avviso. Finché OpenAI non risolverà questo problema e lo dimostrerà con test indipendenti, ChatGPT dovrebbe essere solo per adulti".

OpenAI, da parte sua, respinge le critiche. Il portavoce Eric Porterfield ha dichiarato che l'azienda è "profondamente impegnata per la sicurezza degli adolescenti" e accoglie con favore "una rigorosa valutazione indipendente", ma ha sostenuto che i test di Common Sense Media "non riflettono accuratamente il funzionamento pratico delle protezioni per adolescenti di ChatGPT né le prospettive degli esperti su come l'IA possa supportare gli adolescenti". Porterfield ha affermato che "la maggior parte dei loro test potrebbe essere iniziata e conclusa prima che l'attivazione dei controlli parentali fosse completa, rendendo i loro risultati imprecisi". In tal caso, ha aggiunto, i test "non stabilirebbero se le notifiche di sicurezza per i genitori funzionano come previsto".

Siegel, quando gli è stata mostrata la dichiarazione di OpenAI, non si è lasciato convincere. "Sosteniamo la nostra metodologia di test e i nostri risultati", ha detto. "Prima di iniziare i test, abbiamo confermato con OpenAI che le funzionalità della modalità adolescenti come le notifiche sui disturbi alimentari e la modalità studio erano completamente lanciate".

Ha riconosciuto una complicazione: OpenAI ha rivelato dopo i test che i suoi sistemi possono impiegare diverse ore per attivarsi su account appena collegati, e alcuni account di test erano stati collegati entro quella finestra. Ma altri erano stati collegati per molto più tempo e non avevano comunque prodotto notifiche. "Queste nuove informazioni non cambiano la nostra conclusione che gli avvisi per i genitori non sono affidabili in situazioni di crisi", ha detto Siegel.

Common Sense Media afferma di aver condiviso i risultati della sua valutazione con OpenAI prima della pubblicazione "in buona fede per consentirle di migliorare il proprio prodotto", e spera che l'azienda "si confronti sulla sostanza di ciò che abbiamo scoperto, invece di cercare di seminare dubbi sulla nostra metodologia". OpenAI, nel frattempo, afferma di rimanere impegnata a lavorare con gli esperti affinché gli adolescenti possano imparare e creare - e i genitori possano sentirsi fiduciosi. Se tale fiducia sia giustificata rimane, come sempre, una questione di test indipendenti.