Varsha Yajman was 13 jaar oud toen ze lid werd van sociale media, al zelfbewust over hoe ze eruitzag. Haar feeds vulden zich met workoutvideo's die onmogelijke beloftes deden, meisjes die ze nooit had ontmoet en die haar aanspoorden mee te doen aan gevaarlijke calorie-uitdagingen, en anderen die trots hun lengte, gewicht en zelfs het aantal keren dat ze in het ziekenhuis waren opgenomen, uitzonden in wat de BBC beschrijft als een verwrongen competitie. Elke nacht als ze in slaap viel, keek ze naar een vreemde die alles wat hij die dag had gegeten in een dagboek bijhield. "Ik dacht: 'Ik hoef niet te eten. Ik kan gewoon naar anderen kijken die eten'," vertelde ze aan de BBC. "Ik merkte dat ik in echt diepe konijnenholen terechtkwam... het was alsof je er, hoe hard je ook probeerde, niet uit kon komen."

Nu 24 en herstellende van anorexia, zegt Varsha dat ze nog steeds content over gewichtsverlies te zien krijgt, ondanks dat ze alle veiligheidsinstellingen heeft aangezet en een uitputtende lijst met verboden woorden. Zij is precies degene die de Australische regering zegt te willen beschermen met een nieuwe reeks wetten die big tech aanpakken, deze week ingediend bij het parlement. Het middelpunt: een algoritmeschakelaar die sociale-mediaplatforms dwingt gebruikers de mogelijkheid te geven aanbevolen content uit te zetten, zodat ze alleen berichten zien van accounts die ze volgen. Het is niet de eerste regering die dit probeert, maar bestaande algoritmecontroles zijn vaak tijdelijk en gaan gepaard met concessies aan de functionaliteit van de app. Australië heeft zich ten doel gesteld zijn wetgeving strenger te maken, in de hoop dat de nieuwe wetten – die ook een wettelijke zorgplicht voor onlinediensten zouden invoeren – Australiërs gelukkiger en gezonder zullen maken. Critici maken zich daarentegen zorgen dat de regering van premier Anthony Albanese meer heeft afgebeten dan ze kan kauwen in haar strijd met big tech, terwijl anderen, waaronder de regering-Trump, zeggen dat de hervormingen de vrijheid van meningsuiting bedreigen.

Flynn Martin kent de spiraal uit eerste hand. De zelfverklaarde vrouwenhater-influencer Andrew Tate en andere manosphere-figuren begonnen zo'n vier jaar geleden de feeds van de toen 20-jarige te overspoelen, een tijd waarin Flynn – bij wie uiteindelijk een bipolaire stoornis werd vastgesteld – onzeker was, gefrustreerd over zijn leven en worstelde met zijn geestelijke gezondheid. Hij zegt dat hij voor de retoriek viel en al snel viraal ging in Australië met twee video's: één waarin hij tekeerging over de vraag of het oké was om een heteroseksuele blanke man te zijn, en een andere waarin hij een date bekritiseerde vanwege haar bestelling van frozen yoghurt. "Je bevindt je in een soort echokamer... Het is makkelijk om daarin meegezogen te worden," vertelde hij aan de BBC. "Ik geloofde echt in het idee dat we in deze matrix leefden, dat we een heel negatief systeem hadden dat tegen je was ontworpen. En de enige manier om eruit te breken was door deze alpha-male-personage te worden." De Melbourner werd pas uit de manosphere gehaald na een periode van psychose en een ziekenhuisopname. Tegenwoordig vindt hij het moeilijk om terug te kijken naar die versie van zichzelf: "Hoewel er een beetje schaamte en gêne is... denk ik dat er ook een beetje empathie is voor die jongere man."

Zowel Flynn als Varsha weten dat sociale media alleen niet de schuld zijn van het donkerste hoofdstuk in hun leven, maar zeggen dat het een sleutelfactor was. Talloze anderen hebben verhalen over het geconfronteerd worden met content die ze niet hadden opgezocht en niet wilden zien – en er bestaan al lang vermoedens dat de algoritmen die deze platforms cureren gebruikers schaden. Socialemediabedrijven voeren aan dat de potentiële risico's worden overdreven en dat ze al effectieve veiligheidshulpmiddelen bieden. Maar onderzoek dat over de hele wereld opduikt, schetst een ander beeld: studies hebben aangetoond dat socialemediagebruik een vergelijkbare hersenreactie teweegbrengt als gokken en verslaving aan middelen, dat algoritmen – vaak ongevraagd – content voorschotelen die de geestelijke gezondheid van gebruikers schaadt, en dat ze desinformatie verspreiden en polarisatie vergroten, wat offline geweld aanwakkert. Rechtszaken en klokkenluiders hebben beweringen geuit dat deze bedrijven de gevaren kennen en bereid zijn ze te negeren omdat de technologie de betrokkenheid van gebruikers en hun winst opdrijft.

"Het resultaat is dat ze content promoten die verontwaardiging oproept..."