Varsha Yajman tenía 13 años cuando se unió a las redes sociales, ya insegura por su aspecto. Sus feeds se llenaban de videos de ejercicios con promesas imposibles, chicas que nunca había conocido la instaban a unirse a peligrosos desafíos de calorías, y otras transmitían con orgullo su altura, peso e incluso cuántas veces habían sido hospitalizadas, en lo que la BBC describe como una competencia retorcida. Cada noche, mientras se dormía, veía a un extraño documentando todo lo que había comido ese día. "Pensaba: 'No necesito comer. Puedo simplemente ver a otros comer'", le dijo a la BBC. "Me encontraba cayendo en madrigueras muy profundas... era como si, por más que intentaras salir, no pudieras."

Ahora, con 24 años y en recuperación de anorexia, Varsha dice que todavía le muestran contenido sobre pérdida de peso, a pesar de tener todas las configuraciones de seguridad activadas y una lista exhaustiva de palabras prohibidas. Ella es exactamente a quien el gobierno australiano dice que intenta proteger con un nuevo conjunto de leyes que reprimen a las grandes tecnológicas, presentadas al parlamento esta semana. La pieza central: un interruptor de algoritmo que obliga a las plataformas de redes sociales a permitir que los usuarios desactiven el contenido recomendado, para que solo vean publicaciones de cuentas que siguen. No es el primer gobierno que intenta esto, pero los controles de algoritmo existentes a menudo son transitorios y vienen con compensaciones en la funcionalidad de la aplicación. Australia se ha propuesto hacer su legislación más estricta, con la esperanza de que las nuevas leyes —que también impondrían un deber legal de cuidado a los servicios en línea— ayuden a los australianos a ser más felices y saludables. Los críticos, mientras tanto, temen que el gobierno del primer ministro Anthony Albanese haya mordido más de lo que puede masticar en su lucha contra las grandes tecnológicas, mientras que otros, incluida la administración Trump, dicen que las reformas amenazan la libertad de expresión.

Flynn Martin conoce la espiral de primera mano. El influencer autoproclamado misógino Andrew Tate y otras figuras de la manosfera comenzaron a inundar los feeds del entonces joven de 20 años hace unos cuatro años, una época en la que Flynn —finalmente diagnosticado con trastorno bipolar— estaba inseguro, frustrado con su vida y luchando con su salud mental. Dice que cayó en la retórica, y pronto se volvió viral en Australia por dos videos: uno despotricando sobre si estaba bien ser un hombre blanco heterosexual, otro criticando a una cita por su pedido de yogur helado. "Te encuentras en una especie de cámara de eco... Es fácil dejarse arrastrar por eso", le dijo a la BBC. "Realmente compré la idea de que vivíamos en esta matrix, teníamos este sistema realmente negativo diseñado contra ti. Y la única forma de salir de eso era convertirte en este personaje de macho alfa." El melburniano solo fue sacado de la manosfera después de un período de psicosis y una estancia en el hospital. Hoy en día, le resulta difícil mirar atrás a esa versión de sí mismo: "Aunque hay un poco de vergüenza y bochorno... creo que hay un poco de empatía por ese joven."

Tanto Flynn como Varsha saben que las redes sociales por sí solas no son culpables del peor capítulo de sus vidas, pero dicen que fue un factor clave. Innumerables personas más tienen historias de haberse enfrentado a contenido que no buscaron y no querían ver —y durante mucho tiempo ha habido sospechas de que los algoritmos que curan estas plataformas están dañando a los usuarios. Las empresas de redes sociales argumentan que los riesgos potenciales se están exagerando y que ya proporcionan herramientas de seguridad efectivas. Pero la investigación que emerge de todo el mundo ha estado esbozando una imagen diferente: estudios han encontrado que el uso de redes sociales desencadena una respuesta cerebral similar a la adicción al juego y a sustancias, que los algoritmos —a menudo no solicitados— sirven contenido que daña la salud mental de los usuarios, y que están propagando desinformación y aumentando la polarización, impulsando violencia fuera de línea. Casos judiciales y denunciantes han aireado afirmaciones de que estas empresas conocen los peligros y están dispuestas a pasarlos por alto mientras la tecnología eleva la participación de los usuarios y sus resultados finales.

"El resultado es que promueven contenido que es indignante"