L'industrie des médias sociaux connaît ce que les thérapeutes appellent une percée : Meta a accepté de payer jusqu'à 17,1 milliards de dollars à 47 États, au District de Columbia et aux territoires américains, et de modifier la façon dont les jeunes utilisent Facebook et Instagram — un aveu implicite qu'elle a construit un produit qui nuit aux enfants. Rien ne dit « nous nous soucions des enfants » comme un règlement mesuré en onze chiffres.

Mais même si les parents et les enseignants célèbrent les nouvelles limites de temps et les restrictions sur l'utilisation des médias sociaux par les jeunes, une tâche bien plus urgente nous attend : réglementer les chatbots, qui sont plus dangereux pour le bien-être émotionnel des enfants. Si les médias sociaux sont venus chercher notre attention, les chatbots d'IA générative sont venus chercher nos émotions. L'histoire est une petite progression bien nette : d'abord les gens se parlaient ; puis nous nous parlions à travers des machines ; maintenant nous parlons directement aux machines.

Les médias sociaux ont changé notre façon de penser, de rêver et d'entrer en relation avec les autres en veillant à ce que les utilisateurs se sentent toujours écoutés, divertis et connectés — même en scrollant seuls tard dans la nuit. Les chatbots promettent quelque chose de plus profond : un compagnon toujours disponible, toujours bienveillant et jamais critique. Aucun humain ne peut offrir cela. C'est précisément ce qui rend les chatbots si pernicieux, surtout pour les jeunes.

Les entreprises de médias sociaux ont passé deux décennies à mener une expérience technologique sur des sujets humains avant de faire face à des conséquences. Le système juridique est conçu pour réglementer les préjudices prouvés, donc ce règlement est arrivé bien après que les effets désastreux se soient installés. Avec l'IA générative, les législateurs ne peuvent pas passer la prochaine décennie à documenter ce que nous savons déjà sur la façon dont les relations intimes avec des bots compromettent les relations réelles avec les parents, les amis et les autres humains. Des changements à cette technologie sont nécessaires maintenant.

Même les entreprises d'IA concèdent que des garde-fous sont nécessaires pour les chatbots qui parlent aux jeunes. Le problème est que les prescriptions habituelles ne suffisent pas. Les chatbots devraient détecter les conversations sur l'automutilation et fournir des ressources appropriées — cela semble bien, mais que se passe-t-il après l'annonce de service public ? Le chatbot s'arrête-t-il, ou revient-il à sa programmation habituelle ? Les chatbots devraient clairement et à plusieurs reprises déclarer qu'ils ne sont pas humains — aussi une bonne idée, mais tant qu'ils parlent à la première personne et expriment des émotions et des désirs, aucune déclaration légalement requise n'empêchera les gens de projeter une conscience sur un algorithme.

Pendant des années, la conversation sur les méfaits de Facebook concernait principalement le contenu de la plateforme. Mais parce que tout sur le site est généré par les utilisateurs, l'article 230 de la loi de 1996 sur la décence des communications protégeait l'entreprise de toute responsabilité d'éditeur. Meta paie maintenant uniquement parce que les procureurs ont déplacé la conversation vers la conception intrinsèquement addictive de l'algorithme de Facebook. Cette idée ouvre la voie pour l'IA : avec les chatbots, les processus qui causent du tort sont intrinsèques à l'outil. Un meilleur ami chatbot ne procure pas d'empathie ; un petit ami chatbot ne comprend pas l'intimité. Toute réglementation visant à rendre les chatbots plus sûrs exige de se soucier moins de ce qu'ils disent que de repenser ce qu'ils sont. Étant donné que ces produits sont conçus pour tromper les utilisateurs en leur faisant croire qu'ils parlent à un être sage et compatissant, la tâche des législateurs est de faire comprendre — surtout aux mineurs — qu'il n'y a, en fait, personne au bout du fil.

Les chatbots engagent les utilisateurs comme le font les gens. Ils flattent, rassurent et encouragent les confidences, incitant les utilisateurs à une relation. Tant que ces produits parlent à la première personne — je te comprends ; tu peux tout me dire ; je suis toujours là ; je ne te jugerai pas — les sauvegardes appropriées pour les jeunes utilisateurs resteront insaisissables. La première étape, donc, est de dépersonnaliser les bots pour les jeunes, afin que lorsque les adolescents se tournent vers l'IA, les algorithmes puissent répondre sans avoir l'air humain.

À moins que les législateurs n'imposent un paramètre par défaut non personnifié pour les utilisateurs mineurs de chatbots, des attachements malsains entre les jeunes et les bots sont inévitables.