Varsha Yajman avait 13 ans lorsqu'elle a rejoint les réseaux sociaux, déjà complexée par son apparence. Ses fils d'actualité se remplissaient de vidéos d'entraînement aux promesses impossibles, de filles qu'elle n'avait jamais rencontrées l'incitant à rejoindre des défis caloriques dangereux, et d'autres diffusant fièrement leur taille, leur poids, et même le nombre de fois où elles avaient été hospitalisées, dans ce que la BBC décrit comme une compétition malsaine. Chaque nuit, en s'endormant, elle regardait une inconnue consigner tout ce qu'elle avait mangé ce jour-là. « Je me disais : 'Je n'ai pas besoin de manger. Je peux juste regarder les autres manger' », a-t-elle confié à la BBC. « Je me retrouvais dans des terriers de lapin vraiment profonds... c'était comme si, peu importe vos efforts pour vous en sortir, vous n'y arriviez pas. »

Aujourd'hui âgée de 24 ans et en convalescence de l'anorexie, Varsha affirme qu'on lui propose toujours du contenu sur la perte de poids, malgré tous les paramètres de sécurité activés et une liste exhaustive de mots interdits. Elle est exactement la personne que le gouvernement australien dit vouloir protéger avec une nouvelle série de lois s'attaquant aux géants de la tech, présentées au parlement cette semaine. La pièce maîtresse : un interrupteur d'algorithme obligeant les plateformes de médias sociaux à permettre aux utilisateurs de désactiver le contenu recommandé, afin qu'ils ne voient que les publications des comptes qu'ils suivent. Ce n'est pas le premier gouvernement à tenter cela, mais les contrôles d'algorithme existants sont souvent transitoires et s'accompagnent de compromis sur les fonctionnalités des applications. L'Australie a entrepris de rendre sa législation plus stricte, espérant que les nouvelles lois – qui imposeraient également un devoir de diligence légal aux services en ligne – aideront les Australiens à devenir plus heureux et en meilleure santé. Les critiques, quant à eux, craignent que le gouvernement du Premier ministre Anthony Albanese n'ait vu trop grand dans son combat contre les géants de la tech, tandis que d'autres, y compris l'administration Trump, affirment que ces réformes menacent la liberté d'expression.

Flynn Martin connaît la spirale de première main. L'influenceur autoproclamé misogyne Andrew Tate et d'autres figures de la manosphère ont commencé à submerger les fils d'actualité de ce jeune homme alors âgé de 20 ans il y a environ quatre ans, à une époque où Flynn – finalement diagnostiqué avec un trouble bipolaire – était insécure, frustré par sa vie et aux prises avec des problèmes de santé mentale. Il dit être tombé dans le piège de cette rhétorique, et est rapidement devenu viral en Australie avec deux vidéos : l'une fulminant sur la question de savoir s'il était acceptable d'être un homme blanc hétérosexuel, l'autre critiquant une fille pour sa commande de yaourt glacé. « On se retrouve dans une sorte de chambre d'écho... Il est facile de se laisser emporter », a-t-il déclaré à la BBC. « J'ai vraiment adhéré à l'idée que nous vivions dans cette matrice, que nous avions ce système vraiment négatif conçu contre nous. Et que la seule façon de s'en sortir était de devenir ce personnage d'homme alpha. » Le Melbournien n'a été tiré de la manosphère qu'après une période de psychose et un séjour à l'hôpital. Aujourd'hui, il trouve difficile de regarder en arrière cette version de lui-même : « Même s'il y a un peu de honte et d'embarras... je pense qu'il y a une certaine empathie pour ce jeune homme. »

Flynn et Varsha savent tous deux que les réseaux sociaux ne sont pas les seuls responsables du pire chapitre de leur vie, mais affirment qu'ils ont été un facteur clé. D'innombrables autres ont des histoires de confrontation avec du contenu qu'ils n'ont pas cherché et ne voulaient pas voir – et il y a longtemps eu des soupçons que les algorithmes qui organisent ces plateformes nuisent aux utilisateurs. Les entreprises de médias sociaux soutiennent que les risques potentiels sont exagérés et qu'elles fournissent déjà des outils de sécurité efficaces. Mais les recherches émergentes du monde entier brossent un tableau différent : des études ont montré que l'utilisation des réseaux sociaux déclenche une réponse cérébrale similaire à celle du jeu pathologique et de la dépendance aux substances, que les algorithmes – souvent non sollicités – servent du contenu qui nuit à la santé mentale des utilisateurs, et qu'ils propagent la désinformation et accroissent la polarisation, alimentant la violence hors ligne. Des affaires judiciaires et des lanceurs d'alerte ont avancé que ces entreprises connaissent les dangers et sont prêtes à les ignorer alors que la technologie augmente l'engagement des utilisateurs et leurs profits.

« Le résultat est qu'ils promeuvent du contenu qui est scandaleu