Варша Яджман было 13 лет, когда она присоединилась к социальным сетям, уже стесняясь своей внешности. Её лента заполнилась видео с тренировками, дающими невозможные обещания, девушками, которых она никогда не встречала, призывающими её присоединиться к опасным калорийным челленджам, и другими, гордо транслирующими свой рост, вес и даже то, сколько раз они попадали в больницу, в том, что BBC описывает как извращённое соревнование. Каждую ночь, засыпая, она смотрела, как незнакомец ведёт дневник всего, что съел за день. «Я думала: "Мне не нужно есть. Я могу просто смотреть, как едят другие"», — рассказала она BBC. «Я обнаруживала, что проваливаюсь в эти действительно глубокие кроличьи норы... казалось, что как бы ты ни старался выбраться, у тебя не получалось».

Сейчас ей 24, и она восстанавливается после анорексии. Варша говорит, что ей всё ещё показывают контент о похудении, несмотря на то, что у неё включены все настройки безопасности и составлен исчерпывающий список запрещённых слов. Она — именно тот человек, которого, по словам австралийского правительства, оно пытается защитить с помощью нового пакета законов, направленных против больших технологий, внесённых в парламент на этой неделе. Центральный элемент: переключатель алгоритма, обязывающий социальные платформы позволить пользователям отключать рекомендованный контент, чтобы они видели только посты от аккаунтов, на которые подписаны. Это не первое правительство, пытающееся это сделать, но существующие элементы управления алгоритмами часто недолговечны и сопровождаются компромиссами в функциональности приложений. Австралия решила сделать своё законодательство более жёстким, надеясь, что новые законы — которые также наложат юридическую обязанность заботы на онлайн-сервисы — помогут австралийцам стать счастливее и здоровее. Критики, тем временем, беспокоятся, что правительство премьер-министра Энтони Альбанезе откусило больше, чем может проглотить, в своей борьбе с большими технологиями, в то время как другие, включая администрацию Трампа, говорят, что реформы угрожают свободе слова.

Флинн Мартин знает эту спираль не понаслышке. Самопровозглашённый женоненавистнический инфлюенсер Эндрю Тейт и другие фигуры маносферы начали наводнять ленты тогда 20-летнего Флинна около четырёх лет назад — в то время, когда Флинн, впоследствии диагностированный с биполярным расстройством, был неуверен в себе, недоволен своей жизнью и боролся с психическим здоровьем. Он говорит, что попался на эту риторику и вскоре стал вирусным в Австралии благодаря двум видео: одно — гневная тирада о том, нормально ли быть белым гетеросексуальным мужчиной, другое — критика девушки за её заказ замороженного йогурта. «Ты оказываешься в своего рода эхо-камере... Легко быть увлечённым этим», — сказал он BBC. «Я действительно поверил в идею, что мы живём в этой матрице, у нас была эта действительно негативная система, созданная против тебя. И единственный способ вырваться из неё — стать этим альфа-самцом». Мельбурнец был вырван из маносферы только после периода психоза и пребывания в больнице. Сегодня ему трудно оглядываться на ту версию себя: «Хотя есть немного стыда и смущения... я думаю, есть немного сочувствия к тому молодому человеку».

И Флинн, и Варша знают, что одни только социальные сети не виноваты в худшей главе их жизни, но говорят, что они были ключевым фактором. Бесчисленное множество других имеют истории о столкновении с контентом, который они не искали и не хотели видеть — и давно существуют подозрения, что алгоритмы, курирующие эти платформы, вредят пользователям. Компании социальных сетей утверждают, что потенциальные риски преувеличены и что они уже предоставляют эффективные инструменты безопасности. Но исследования, появляющиеся со всего мира, рисуют другую картину: исследования показали, что использование социальных сетей вызывает реакцию мозга, похожую на азартные игры и зависимость от психоактивных веществ, что алгоритмы — часто непрошеные — подают контент, который вредит психическому здоровью пользователей, и что они распространяют дезинформацию и усиливают поляризацию, провоцируя насилие в офлайне. Судебные дела и разоблачители озвучили утверждения, что эти компании знают об опасностях и готовы их игнорировать, поскольку технология повышает вовлечённость пользователей и их прибыль.

«Результат в том, что они продвигают контент, который возмутителен»