Varsha Yajman miała 13 lat, gdy dołączyła do mediów społecznościowych, już wtedy niepewna swojego wyglądu. Jej kanały wypełniły się filmami treningowymi składającymi niemożliwe obietnice, dziewczynami, których nigdy nie spotkała, namawiającymi ją do niebezpiecznych wyzwań kalorycznych, i innymi, którzy dumnie ogłaszali swój wzrost, wagę, a nawet liczbę hospitalizacji, w czymś, co BBC opisuje jako pokręconą konkurencję. Każdej nocy, zasypiając, obserwowała nieznajomego relacjonującego wszystko, co zjadł tego dnia. "Myślałam sobie: 'Nie muszę jeść. Mogę po prostu patrzeć, jak inni jedzą'" – powiedziała BBC. "Wpadałam w te naprawdę głębokie królicze nory... to było tak, jakby niezależnie od tego, jak bardzo się starałaś się wydostać, nie mogłaś."

Teraz 24-letnia i w trakcie zdrowienia z anoreksji, Varsha mówi, że nadal podsuwane są jej treści o odchudzaniu, mimo że ma włączone wszystkie ustawienia bezpieczeństwa i wyczerpującą listę zakazanych słów. To właśnie ona jest dokładnie tą osobą, którą rząd Australii twierdzi, że próbuje chronić za pomocą nowego zestawu przepisów uderzających w wielki tech, wprowadzonych do parlamentu w tym tygodniu. Centralny punkt: przełącznik algorytmu zmuszający platformy mediów społecznościowych do umożliwienia użytkownikom wyłączenia rekomendowanych treści, tak aby widzieli tylko posty z kont, które obserwują. To nie pierwszy rząd, który próbuje tego dokonać, ale istniejące mechanizmy kontroli algorytmów są często tymczasowe i wiążą się z kompromisami w funkcjonalności aplikacji. Australia postawiła sobie za cel zaostrzenie swoich przepisów, mając nadzieję, że nowe prawa – które nałożą również prawny obowiązek należytej staranności na usługi online – pomogą Australijczykom stać się szczęśliwszymi i zdrowszymi. Krytycy obawiają się, że rząd premiera Anthony'ego Albanese ugryzł więcej, niż może przełknąć w walce z wielkim techem, podczas gdy inni, w tym administracja Trumpa, twierdzą, że reformy zagrażają wolności słowa.

Flynn Martin zna to błędne koło z pierwszej ręki. Samozwańczy mizoginistyczny influencer Andrew Tate i inne postacie z manosphere zaczęły zalewać kanały wtedy 20-latka około czterech lat temu, w czasie gdy Flynn – ostatecznie zdiagnozowany z chorobą afektywną dwubiegunową – był niepewny siebie, sfrustrowany swoim życiem i zmagający się ze zdrowiem psychicznym. Mówi, że dał się ponieść retoryce i wkrótce stał się viralem w Australii dzięki dwóm filmom: jeden rozwodzący się nad tym, czy można być heteroseksualnym białym mężczyzną, drugi krytykujący randkę za jej zamówienie mrożonego jogurtu. "Znajdujesz się w czymś w rodzaju komory echa... Łatwo dać się w to wciągnąć" – powiedział BBC. "Naprawdę kupiłem ideę, że żyjemy w tej matrycy, mieliśmy ten naprawdę negatywny system zaprojektowany przeciwko tobie. A jedynym sposobem, by się z tego wyrwać, było stanie się tym postacią alfa mężczyzny." Mieszkaniec Melbourne został wyrwany z manosphere dopiero po okresie psychozy i pobycie w szpitalu. Obecnie trudno mu patrzeć na tamtą wersję siebie: "Choć jest trochę wstydu i zażenowania... myślę, że jest też trochę empatii dla tego młodszego mężczyzny."

Zarówno Flynn, jak i Varsha wiedzą, że same media społecznościowe nie ponoszą winy za najgorszy rozdział ich życia, ale twierdzą, że były kluczowym czynnikiem. Niezliczeni inni mają historie o tym, jak zetknęli się z treściami, których nie szukali i nie chcieli widzieć – i od dawna podejrzewa się, że algorytmy kurujące te platformy szkodzą użytkownikom. Firmy mediów społecznościowych argumentują, że potencjalne ryzyko jest wyolbrzymiane i że już zapewniają skuteczne narzędzia bezpieczeństwa. Jednak badania pojawiające się z całego świata malują inny obraz: badania wykazały, że korzystanie z mediów społecznościowych wywołuje reakcję mózgu podobną do hazardu i uzależnienia od substancji, że algorytmy – często nieproszone – podają treści, które szkodzą zdrowiu psychicznemu użytkowników, oraz że rozprzestrzeniają dezinformację i zwiększają polaryzację, napędzając przemoc offline. Sprawy sądowe i sygnaliści ujawnili twierdzenia, że te firmy znają zagrożenia i są skłonne je ignorować, ponieważ technologia zwiększa zaangażowanie użytkowników i ich zyski.

"Rezultat jest taki, że promują treści, które są oburzające