OpenAI déploie un mode ChatGPT dédié aux adolescents, regroupant les protections existantes pour les jeunes avec quelques nouvelles fonctionnalités de sécurité sous une bannière unique adaptée aux ados. Cette décision intervient alors que l'entreprise fait face à une pression publique croissante sur la manière dont les outils d'IA affectent les jeunes utilisateurs, d'autres plateformes mettant également en œuvre leurs propres vérifications d'âge et protections spécifiques aux adolescents.

ChatGPT pour adolescents est « une expérience conçue pour aider les adolescents à apprendre, à penser de manière critique, à approfondir leur compréhension et à utiliser l'IA en toute confiance », a déclaré OpenAI dans un article de blog mardi. Le mode s'appliquera automatiquement aux utilisateurs qui s'identifient comme ayant entre 13 et 17 ans, ainsi qu'à ceux que le système estime avoir moins de 18 ans. Les enfants de moins de 13 ans ne sont pas autorisés sur la plateforme, conformément à la politique d'âge publiée par OpenAI - donc non, votre enfant de 12 ans ne peut pas simplement prétendre avoir 13 ans et s'en tirer. En fait, il le peut probablement, mais c'est une autre histoire.

L'expérience adolescente applique des protections par défaut, notamment des restrictions plus strictes sur les contenus interdits ou sensibles comme la violence graphique, les représentations d'automutilation et les jeux de rôle sexuels ou romantiques. Elle affichera également des avertissements et des informations de sécurité autour de sujets tels que les troubles alimentaires, tout en donnant aux parents des contrôles pour définir des heures de silence et recevoir des notifications sur les alertes de sécurité si le système signale un risque potentiel.

D'autres fonctionnalités visent à encourager ce qu'OpenAI appelle une « utilisation saine et équilibrée », notamment des rappels autour des téléchargements d'images sensibles, une intégration spécifique aux adolescents et des options de personnalisation comme les couleurs d'accentuation et les variations de voix. OpenAI ajoute également de nouveaux « rappels de devoirs responsables », qui, selon elle, peuvent détecter lorsqu'un adolescent semble « essayer de contourner un devoir » et le rediriger vers le mode d'étude dédié de ChatGPT. Les adolescents ou les parents peuvent également définir des « heures d'étude » qui activent automatiquement le mode d'étude pendant les périodes désignées - parce que rien ne dit « équilibre sain » comme l'étude forcée.

Bien qu'OpenAI présente cela comme une nouvelle expérience brillante destinée aux adolescents, bon nombre des protections ne sont pas nouvelles. Le lancement consolide en grande partie les garanties existantes avec une poignée d'ajouts et de modifications mineurs. OpenAI a déployé des fonctionnalités de prédiction de l'âge au début de l'année, tandis que les contrôles parentaux et le mode d'étude sont arrivés il y a environ un an. La société a déclaré qu'elle montrerait aux adolescents des rappels de pause plus fréquents le mois dernier - une fonctionnalité qui, franchement, pourrait aussi être utile aux adultes.

OpenAI affirme que ses protections pour adolescents sont « étayées par des recherches continues sur la sécurité » et qu'elle prévoit de publier davantage de « ce que nous apprenons » à l'avenir, ainsi que de développer des fonctionnalités de sécurité supplémentaires pour aider les adolescents à bénéficier de l'IA. « Mais cet accès devrait s'accompagner de protections qui reflètent leur stade de développement, renforcent les relations dans le monde réel et soutiennent une utilisation saine au fil du temps. ChatGPT pour adolescents est notre prochaine étape vers cet objectif. » Nous y croirons quand les rappels de devoirs fonctionneront vraiment.