Varsha Yajman var 13 år när hon gick med i sociala medier, redan självmedveten om sitt utseende. Hennes flöden fylldes av träningsvideor med omöjliga löften, tjejer hon aldrig träffat som uppmanade henne att delta i farliga kaloriutmaningar, och andra som stolt skröt om sin längd, vikt och till och med hur många gånger de hade lagts in på sjukhus, i vad BBC beskriver som en sjuk tävling. Varje natt när hon somnade tittade hon på en främling som dagboksförde allt de hade ätit den dagen. "Jag tänkte: 'Jag behöver inte äta. Jag kan bara titta på när andra äter'", berättade hon för BBC. "Jag hamnade i riktigt djupa kaninhål... det var som att hur hårt man än försökte ta sig ut, så kunde man inte."

Nu 24 år och under återhämtning från anorexi säger Varsha att hon fortfarande får viktminskningsinnehåll, trots att hon har alla säkerhetsinställningar påslagna och en uttömmande lista över förbjudna ord. Hon är precis den som den australiska regeringen säger sig vilja skydda med en ny uppsättning lagar mot big tech, som lades fram för parlamentet denna vecka. Huvudnumret: en algoritmväxel som tvingar sociala medieplattformar att låta användare stänga av rekommenderat innehåll, så att de bara ser inlägg från konton de följer. Det är inte den första regeringen som försöker med detta, men befintliga algoritmkontroller är ofta tillfälliga och kommer med avvägningar i appfunktionalitet. Australien har satt sig för att göra sin lagstiftning strängare, i hopp om att de nya lagarna – som också skulle införa en juridisk omsorgsplikt för onlinetjänster – ska hjälpa australiensare att bli lyckligare och friskare. Kritiker oroar sig samtidigt för att premiärminister Anthony Albaneses regering har tagit sig vatten över huvudet i sin kamp mot big tech, medan andra, inklusive Trump-administrationen, säger att reformerna hotar yttrandefriheten.

Flynn Martin känner till spiralen på nära håll. Den självutnämnde kvinnofientlige influeraren Andrew Tate och andra manossfärsfigurer började översvämma den då 20-åriges flöden för ungefär fyra år sedan, en tid då Flynn – som så småningom diagnostiserades med bipolär sjukdom – var osäker, frustrerad över sitt liv och kämpade med sin psykiska hälsa. Han säger att han föll för retoriken och blev snart viral i Australien för två videor: en som raljerade om huruvida det var okej att vara en straight vit man, en annan som kritiserade en dejt för hennes frozen yoghurt-beställning. "Man hamnar i en slags ekokammare... Det är lätt att svepas med", berättade han för BBC. "Jag köpte verkligen idén att vi levde i den här matrixen, att vi hade ett riktigt negativt system designat mot en. Och det enda sättet att bryta sig loss var att bli den här alfahannen." Melbournebon drogs bara ur manossfären efter en period av psykos och en sjukhusvistelse. Nuförtiden har han svårt att se tillbaka på den versionen av sig själv: "Även om det finns lite skam och pinsamhet... tror jag att det finns lite empati för den yngre mannen."

Både Flynn och Varsha vet att sociala medier ensamt inte är att skylla för det värsta kapitlet i deras liv, men säger att det var en nyckelfaktor. Otaliga andra har historier om att konfronteras med innehåll de inte sökte och inte ville se – och det har länge funnits misstankar om att algoritmerna som kurerar dessa plattformar skadar användare. Sociala medieföretag hävdar att de potentiella riskerna överdrivs och att de redan tillhandahåller effektiva säkerhetsverktyg. Men forskning från hela världen har målat upp en annan bild: studier har funnit att sociala medier utlöser en hjärnreaktion liknande den vid spelberoende och substansberoende, att algoritmer – ofta oombedda – serverar innehåll som skadar användarnas psykiska hälsa, och att de sprider desinformation och ökar polarisering, vilket driver våld offline. Rättsfall och visselblåsare har framfört påståenden om att dessa företag känner till farorna och är villiga att bortse från dem när tekniken ökar användarengagemang och deras vinst.

"Resultatet är att de främjar innehåll som är upprörande