바르샤 야즈만은 소셜 미디어에 가입했을 당시 13살이었고, 이미 자신의 외모에 대해 자의식이 강했다. 그녀의 피드는 불가능한 약속을 하는 운동 영상, 한 번도 만난 적 없는 소녀들이 위험한 칼로리 챌린지에 참여하라고 재촉하는 글, 그리고 BBC가 뒤틀린 경쟁이라고 묘사한 것처럼 자신의 키, 몸무게, 심지어 입원한 횟수까지 자랑스럽게 공개하는 게시물로 가득했다. 매일 밤 잠들 때 그녀는 낯선 사람이 그날 먹은 모든 것을 일기처럼 기록하는 것을 지켜봤다. "나는 '나는 먹을 필요가 없어. 다른 사람들이 먹는 걸 보기만 하면 돼'라고 생각했어요"라고 그녀는 BBC에 말했다. "정말 깊은 토끼굴에 빠지는 걸 느꼈어요... 아무리 빠져나오려고 해도 빠져나올 수 없는 것 같았어요."

이제 24살이 되어 거식증에서 회복 중인 바르샤는 모든 안전 설정을 켜고 금지어 목록을 철저히 설정했는데도 여전히 체중 감량 콘텐츠가 추천된다고 말한다. 그녀는 호주 정부가 이번 주 의회에 제출한 빅테크 단속 법안 패키지로 보호하려는 바로 그 대상이다. 핵심은 알고리즘 스위치로, 소셜 미디어 플랫폼이 사용자가 추천 콘텐츠를 끌 수 있게 하여 팔로우하는 계정의 게시물만 보도록 강제하는 것이다. 이런 시도는 다른 정부에서도 있었지만, 기존의 알고리즘 통제는 대개 일시적이고 앱 기능에 대한 절충이 따랐다. 호주는 법안을 더 엄격하게 만들려고 하며, 온라인 서비스에 법적 주의 의무를 부과하는 이 새 법안이 호주인들을 더 행복하고 건강하게 만드는 데 도움이 되기를 바라고 있다. 반면 비평가들은 앤서니 앨버니지 총리 정부가 빅테크와의 싸움에서 감당할 수 있는 것보다 더 많이 물어뜯었다고 우려하며, 트럼프 행정부를 포함한 일부는 이 개혁이 표현의 자유를 위협한다고 말한다.

플린 마틴은 그 악순환을 직접 겪었다. 자기 자신을 여성혐오자라고 칭하는 인플루언서 앤드류 테이트와 다른 남성우월주의 인물들이 약 4년 전 당시 20살이던 플린의 피드를 압도하기 시작했다. 그때 플린은 나중에 양극성 장애 진단을 받았고, 불안정하고 삶에 좌절하며 정신 건강 문제로 어려움을 겪고 있었다. 그는 그 수사에 빠졌고, 곧 호주에서 두 개의 영상으로 입소문을 탔다. 하나는 이성애자 백인 남성으로 사는 것이 괜찮은지에 대한 불평이었고, 다른 하나는 데이트 상대의 프로즌 요거트 주문을 비판하는 내용이었다. "당신은 일종의 메아리 방에 있는 자신을 발견하게 돼요... 그 안에 휩쓸리기 쉬워요"라고 그는 BBC에 말했다. "나는 우리가 이 매트릭스 안에 살고 있고, 우리에게 불리하게 설계된 정말 부정적인 시스템이 있다는 생각을 정말 믿었어요. 그리고 그것을 깨는 유일한 방법은 이 알파 남성 캐릭터가 되는 것이라고요." 멜버른 출신인 그는 정신증과 입원 기간을 거친 후에야 남성우월주의 세계에서 빠져나올 수 있었다. 요즘 그는 그때의 자신을 돌아보는 것이 힘들다고 한다. "약간의 수치심과 부끄러움이 있지만... 그 젊은 남자에게는 약간의 연민도 있는 것 같아요."

플린과 바르샤 모두 소셜 미디어만이 인생 최악의 장을 초래한 원인은 아니라는 것을 알지만, 그것이 핵심 요인이었다고 말한다. 수많은 다른 사람들도 자신이 찾지도 않았고 보고 싶지도 않았던 콘텐츠와 마주친 이야기를 가지고 있으며, 이러한 플랫폼을 큐레이션하는 알고리즘이 사용자에게 해를 끼치고 있다는 의혹은 오래전부터 있었다. 소셜 미디어 회사들은 잠재적 위험이 과장되고 있으며 이미 효과적인 안전 도구를 제공하고 있다고 주장한다. 그러나 전 세계에서 나오는 연구는 다른 그림을 그리고 있다. 연구에 따르면 소셜 미디어 사용은 도박 및 약물 중독과 유사한 뇌 반응을 유발하고, 알고리즘은 종종 요청하지도 않은 콘텐츠를 제공하여 사용자의 정신 건강을 해치며, 허위 정보를 퍼뜨리고 양극화를 심화시켜 오프라인 폭력을 부추긴다. 법정 사건과 내부 고발자들은 이 회사들이 위험을 알면서도 기술이 사용자 참여와 수익을 높여주기 때문에 눈감아 준다는 주장을 제기했다.

"그 결과 그들은 분노를 유발하는 콘텐츠를 홍보한다"