Varsha Yajman tinha 13 anos quando entrou nas redes sociais, já insegura com sua aparência. Seus feeds se encheram de vídeos de exercícios com promessas impossíveis, garotas que ela nunca conheceu a incentivando a participar de desafios calóricos perigosos, e outras transmitindo com orgulho sua altura, peso e até quantas vezes foram hospitalizadas, no que a BBC descreve como uma competição distorcida. Todas as noites, ao adormecer, ela assistia a um estranho narrando tudo o que havia comido naquele dia. "Eu pensava: 'Não preciso comer. Posso simplesmente assistir outras pessoas comerem'", contou ela à BBC. "Eu me via caindo nessas tocas de coelho profundas... era como se, não importasse o quanto você tentasse sair, você não conseguisse."

Agora com 24 anos e em recuperação da anorexia, Varsha diz que ainda recebe conteúdo sobre perda de peso, apesar de ter todas as configurações de segurança ativadas e uma lista exaustiva de palavras banidas. Ela é exatamente quem o governo australiano diz estar tentando proteger com um novo conjunto de leis que reprimem as big techs, apresentado ao parlamento esta semana. O carro-chefe: um interruptor de algoritmo que obriga as plataformas de redes sociais a permitir que os usuários desliguem o conteúdo recomendado, para que vejam apenas postagens de contas que seguem. Não é o primeiro governo a tentar isso, mas os controles de algoritmo existentes costumam ser transitórios e vêm com compensações na funcionalidade dos aplicativos. A Austrália se propôs a tornar sua legislação mais rígida, na esperança de que as novas leis — que também imporiam um dever legal de cuidado aos serviços online — ajudem os australianos a se tornarem mais felizes e saudáveis. Críticos, por sua vez, temem que o governo do primeiro-ministro Anthony Albanese tenha mordido mais do que pode mastigar em sua briga com as big techs, enquanto outros, incluindo o governo Trump, dizem que as reformas ameaçam a liberdade de expressão.

Flynn Martin conhece a espiral em primeira mão. O influenciador autoproclamado misógino Andrew Tate e outras figuras da manosfera começaram a inundar os feeds do então jovem de 20 anos cerca de quatro anos atrás, uma época em que Flynn — eventualmente diagnosticado com transtorno bipolar — estava inseguro, frustrado com sua vida e lutando com sua saúde mental. Ele diz que caiu na retórica e logo viralizou na Austrália com dois vídeos: um discursando sobre se era ok ser um homem branco heterossexual, outro criticando um encontro por causa de seu pedido de iogurte congelado. "Você se encontra em uma espécie de câmara de eco... É fácil ser arrastado por isso", disse ele à BBC. "Eu realmente comprei a ideia de que estávamos vivendo nessa matrix, tínhamos esse sistema realmente negativo projetado contra você. E a única maneira de escapar era me tornar esse personagem alfa." O morador de Melbourne só foi retirado da manosfera após um período de psicose e uma internação hospitalar. Hoje em dia, ele acha difícil olhar para trás e ver aquela versão de si mesmo: "Embora haja um pouco de vergonha e constrangimento... acho que há um pouco de empatia por aquele jovem."

Tanto Flynn quanto Varsha sabem que as redes sociais sozinhas não são culpadas pelo pior capítulo de suas vidas, mas dizem que foram um fator-chave. Inúmeras outras pessoas têm histórias de serem confrontadas com conteúdo que não procuraram e não queriam ver — e há muito tempo se suspeita que os algoritmos que curam essas plataformas estão prejudicando os usuários. As empresas de redes sociais argumentam que os riscos potenciais estão sendo exagerados e que já fornecem ferramentas de segurança eficazes. Mas pesquisas emergentes de todo o mundo vêm esboçando um quadro diferente: estudos descobriram que o uso de redes sociais desencadeia uma resposta cerebral semelhante à do jogo e do vício em substâncias, que os algoritmos — frequentemente não solicitados — servem conteúdo que prejudica a saúde mental dos usuários, e que estão espalhando desinformação e aumentando a polarização, impulsionando a violência offline. Casos judiciais e denunciantes expuseram alegações de que essas empresas conhecem os perigos e estão dispostas a ignorá-los enquanto a tecnologia aumenta o engajamento dos usuários e seus lucros.

"O resultado é que eles promovem conteúdo ultrajante"