Varsha Yajman war 13 Jahre alt, als sie den sozialen Medien beitrat, bereits selbstbewusst über ihr Aussehen. Ihre Feeds füllten sich mit Workout-Videos, die unmögliche Versprechungen machten, Mädchen, die sie nie getroffen hatte, die sie drängten, an gefährlichen Kalorien-Herausforderungen teilzunehmen, und andere, die stolz ihre Größe, ihr Gewicht und sogar, wie oft sie ins Krankenhaus eingeliefert worden waren, in einem, wie die BBC es beschreibt, perversen Wettbewerb verkündeten. Jede Nacht, als sie einschlief, sah sie eine Fremde, die alles aufschrieb, was sie an diesem Tag gegessen hatte. "Ich dachte: 'Ich muss nicht essen. Ich kann einfach anderen beim Essen zusehen'", erzählte sie der BBC. "Ich fand mich in diesen wirklich tiefen Kaninchenlöchern wieder ... es war, als ob man, egal wie sehr man versuchte herauszukommen, es nicht schaffte."

Heute ist sie 24 und in Genesung von Anorexie, und Varsha sagt, ihr werden immer noch Abnehm-Inhalte gezeigt, obwohl sie alle Sicherheitseinstellungen aktiviert und eine erschöpfende Liste verbotener Wörter hat. Sie ist genau diejenige, die die australische Regierung mit einem neuen Gesetzespaket schützen will, das diese Woche im Parlament eingebracht wurde, um gegen Big Tech vorzugehen. Das Herzstück: ein Algorithmus-Schalter, der soziale Medienplattformen dazu zwingt, Nutzern zu erlauben, empfohlene Inhalte auszuschalten, sodass sie nur Beiträge von Konten sehen, denen sie folgen. Es ist nicht die erste Regierung, die das versucht, aber bestehende Algorithmus-Kontrollen sind oft flüchtig und bringen Kompromisse bei der App-Funktionalität mit sich. Australien hat sich vorgenommen, seine Gesetzgebung strenger zu gestalten, in der Hoffnung, dass die neuen Gesetze – die auch eine rechtliche Sorgfaltspflicht für Online-Dienste auferlegen würden – den Australiern helfen, glücklicher und gesünder zu werden. Kritiker hingegen befürchten, dass die Regierung von Premierminister Anthony Albanese sich im Kampf mit Big Tech mehr vorgenommen hat, als sie bewältigen kann, während andere, einschließlich der Trump-Administration, sagen, die Reformen bedrohten die Meinungsfreiheit.

Flynn Martin kennt die Spirale aus erster Hand. Der selbsternannte frauenfeindliche Influencer Andrew Tate und andere Figuren der Manosphäre begannen vor etwa vier Jahren, die Feeds des damals 20-Jährigen zu überfluten, eine Zeit, in der Flynn – schließlich mit bipolarer Störung diagnostiziert – unsicher, frustriert mit seinem Leben und mit seiner psychischen Gesundheit kämpfte. Er sagt, er sei auf die Rhetorik hereingefallen und wurde bald in Australien mit zwei Videos viral: eines, in dem er darüber wetterte, ob es okay sei, ein heterosexueller weißer Mann zu sein, ein anderes, in dem er ein Date für ihre Frozen-Yoghurt-Bestellung kritisierte. "Man findet sich in einer Art Echokammer wieder ... Es ist leicht, sich davon mitreißen zu lassen", sagte er der BBC. "Ich habe die Idee wirklich geschluckt, dass wir in dieser Matrix leben, dass wir dieses wirklich negative System haben, das gegen einen entworfen wurde. Und der einzige Weg auszubrechen war, diese Alpha-Mann-Figur zu werden." Der Melbourner wurde erst nach einer Phase der Psychose und einem Krankenhausaufenthalt aus der Manosphäre geholt. Heute fällt es ihm schwer, auf diese Version seiner selbst zurückzublicken: "Obwohl da ein bisschen Scham und Verlegenheit ist ... denke ich, gibt es ein bisschen Empathie für diesen jüngeren Mann."

Sowohl Flynn als auch Varsha wissen, dass soziale Medien allein nicht für das schlimmste Kapitel ihres Lebens verantwortlich sind, aber sie sagen, es war ein Schlüsselfaktor. Unzählige andere haben Geschichten, in denen sie mit Inhalten konfrontiert wurden, die sie nicht gesucht und nicht sehen wollten – und es gab lange den Verdacht, dass die Algorithmen, die diese Plattformen kuratieren, den Nutzern schaden. Social-Media-Firmen argumentieren, dass die potenziellen Risiken übertrieben werden und dass sie bereits wirksame Sicherheitswerkzeuge bereitstellen. Doch Forschung aus aller Welt zeichnet ein anderes Bild: Studien haben ergeben, dass die Nutzung sozialer Medien eine ähnliche Gehirnreaktion wie Glücksspiel und Substanzsucht auslöst, dass Algorithmen – oft unaufgefordert – Inhalte liefern, die die psychische Gesundheit der Nutzer schädigen, und dass sie Desinformation verbreiten und die Polarisierung verstärken, was offline Gewalt antreibt. Gerichtsverfahren und Whistleblower haben Behauptungen veröffentlicht, dass diese Unternehmen die Gefahren kennen und bereit sind, sie zu übersehen, da die Technologie die Nutzerbindung und ihren Gewinn steigert.

"Das Ergebnis ist, dass sie Inhalte fördern, die empörend sind"