Common Sense Media, l'organisation à but non lucratif qui évalue les applications et les divertissements sous l'angle de la sécurité des jeunes, a déclaré que ChatGPT pour ados d'OpenAI représentait un « risque inacceptable ». Cette fonctionnalité, introduite en août, est dotée de garde-fous spécifiques aux adolescents et est présentée comme une aide à l'apprentissage pour les élèves de 13 ans et plus – mais Common Sense affirme que ces protections « sont loin de ce que l'entreprise avait promis ».

Selon l'évaluation de l'organisation, ChatGPT « n'envoie pas d'alertes aux parents quand il le devrait », n'offre pas « l'aide appropriée dans les situations de crise » et – dans ce qui est peut-être la découverte la moins surprenante de l'année dans le domaine technologique – « fait encore les devoirs des enfants ».

« ChatGPT pour ados pourrait donner aux parents une fausse confiance dans des garde-fous et des alertes de sécurité qui, souvent, ne fonctionnent pas », a déclaré Tom Siegel, directeur exécutif du Youth AI Safety Institute de Common Sense Media. « Un adolescent peut passer une heure à parler d'automutilation sans que son parent reçoive la moindre alerte. Tant qu'OpenAI ne corrigera pas cela et ne le prouvera pas par des tests indépendants, ChatGPT devrait être réservé aux adultes. »

OpenAI, de son côté, riposte. Le porte-parole Eric Porterfield a déclaré que l'entreprise était « profondément engagée en faveur de la sécurité des adolescents » et accueillait favorablement « une évaluation indépendante rigoureuse », mais a soutenu que les tests de Common Sense Media « ne reflètent pas fidèlement le fonctionnement réel des protections pour ados de ChatGPT ni les points de vue d'experts sur la manière dont l'IA peut soutenir les adolescents ». Porterfield a affirmé que « l'essentiel de leurs tests a peut-être commencé et s'est terminé avant que l'activation des contrôles parentaux ne soit achevée, ce qui rend leurs conclusions inexactes ». Si tel était le cas, a-t-il ajouté, les tests « ne permettraient pas d'établir si les notifications de sécurité parentales fonctionnent comme prévu ».

Siegel, lorsqu'on lui a montré la déclaration d'OpenAI, n'a pas été convaincu. « Nous maintenons notre méthodologie de test et nos résultats », a-t-il déclaré. « Avant de commencer les tests, nous avons confirmé avec OpenAI que les fonctionnalités du mode Ado telles que les notifications de troubles alimentaires et le mode étude étaient entièrement déployées. »

Il a reconnu une nuance : OpenAI a révélé après les tests que ses systèmes peuvent mettre plusieurs heures à s'activer sur des comptes nouvellement liés, et certains comptes de test avaient été liés dans cette fenêtre. Mais d'autres étaient liés depuis bien plus longtemps et ne produisaient toujours aucune notification. « Cette nouvelle information ne change pas notre conclusion selon laquelle les alertes parentales ne sont pas fiables pour les situations de crise », a déclaré Siegel.

Common Sense Media affirme avoir partagé les résultats de son évaluation avec OpenAI avant leur publication « de bonne foi pour lui permettre d'améliorer son produit », et espère que l'entreprise « s'engagera sur le fond de ce que nous avons constaté, plutôt que d'essayer de semer le doute sur notre méthodologie ». OpenAI, pendant ce temps, affirme rester engagé à travailler avec des experts pour que les adolescents puissent apprendre et créer – et que les parents puissent avoir confiance. Que cette confiance soit justifiée reste, comme toujours, une question de tests indépendants.