ヴァルシャ・ヤジマンがソーシャルメディアに参加したのは13歳のときで、すでに自分の見た目に強いコンプレックスを抱いていた。彼女のフィードは、不可能な約束をするワークアウト動画、危険なカロリー制限チャレンジに参加するよう促す見知らぬ少女たち、そしてBBCが「歪んだ競争」と表現するものの中で、身長や体重、さらには入院した回数まで誇らしげに公表する人々で埋め尽くされた。毎晩眠りに落ちる間、彼女は見知らぬ誰かがその日に食べたものをすべて日記のように記録するのを眺めていた。「私は『食べる必要なんてない。他の人が食べるのを見ていればいい』と思っていました」と彼女はBBCに語った。「気づくと本当に深いウサギの穴に落ちていて……どんなに頑張っても抜け出せないような感じでした」

現在24歳で拒食症からの回復途上にあるヴァルシャは、すべての安全設定をオンにし、禁止ワードの徹底的なリストも設定しているにもかかわらず、いまだに体重減少コンテンツを表示されるという。彼女こそ、オーストラリア政府が今週議会に提出したビッグテック取り締まりの新法群で保護しようとしているまさにその人物だ。目玉は、ソーシャルメディアプラットフォームにユーザーがおすすめコンテンツをオフにできるように義務付けるアルゴリズムスイッチで、そうすればフォローしているアカウントの投稿だけが表示されるようになる。これを試みた政府は初めてではないが、既存のアルゴリズム制御は多くの場合一時的で、アプリの機能性とのトレードオフを伴う。オーストラリアはその立法をより厳格にしようとしており、オンラインサービスに法的な注意義務も課す新法が、オーストラリア人をより幸せで健康にする助けになることを期待している。一方、批評家たちはアンソニー・アルバニージー首相の政府がビッグテックとの戦いで噛み切れないほど大きく噛みついてしまったと懸念し、トランプ政権を含む他の者たちは、この改革が言論の自由を脅かすと主張している。

フリン・マーティンはその悪循環を身をもって知っている。自称ミソジニストのインフルエンサー、アンドリュー・テイトや他のマノスフィアの人物たちが、当時20歳だった彼のフィードを4年ほど前から圧倒し始めた。当時のフリンは——後に双極性障害と診断される——自信がなく、人生に不満を抱え、精神的な健康に苦しんでいた。彼はそのレトリックに染まり、やがてオーストラリアで2本の動画がバイラルになった。1本はストレートの白人男性であることが許されるのかについての怒りの演説、もう1本はデート相手のフローズンヨーグルトの注文を批判するものだった。「気づくとある種のエコーチェンバーの中にいるんです……それに流されるのは簡単です」と彼はBBCに語った。「私たちはこのマトリックスの中に生きていて、自分たちに対して設計された本当にネガティブなシステムがあるという考えに、私は本当に染まっていました。そしてそこから抜け出す唯一の方法は、このアルファ男性のキャラクターになることだと」。メルボルン出身の彼がマノスフィアから引き離されたのは、精神病の期間と入院を経てからのことだった。今ではその頃の自分を振り返るのは辛い。「恥ずかしさや気まずさは少しありますが……あの若い男性には少し共感もします」

フリンもヴァルシャも、人生最悪の章の責任がソーシャルメディアだけにあるわけではないと知っているが、それが重要な要因だったと語る。無数の他の人々も、自ら求めたわけでも見たいわけでもないコンテンツに直面した経験を持っている——そして、これらのプラットフォームをキュレーションするアルゴリズムがユーザーに害を与えているのではないかという疑念は長く存在してきた。ソーシャルメディア企業は、潜在的なリスクは誇張されており、すでに効果的な安全ツールを提供していると主張する。しかし世界中から出てくる研究は異なる像を描いている。研究によれば、ソーシャルメディアの使用はギャンブルや物質依存と同様の脳反応を引き起こし、アルゴリズムは——多くの場合求められていないのに——ユーザーの精神的健康を害するコンテンツを提供し、偽情報を拡散し、分極化を進め、オフラインでの暴力を駆り立てている。裁判や内部告発者たちは、これらの企業が危険性を知りながら、技術がユーザーのエンゲージメントと利益を押し上げるため見逃しているという主張を明らかにしてきた。

「その結果、彼らは怒りを煽るコンテンツを宣伝する