Em uma reviravolta que faz o lema do Vale do Silício 'mova rápido e quebre coisas' parecer ainda mais alarmante, uma mulher identificada como Jane Doe 4 juntou-se a um processo contra a xAI de Elon Musk, alegando que seu padrasto usou o chatbot Grok da empresa para transformar uma foto dela aos 11 anos em mais de 7.000 imagens explícitas. A mulher, cujo padrasto teria cometido suicídio dois dias após as autoridades descobrirem as imagens durante uma batida, disse ao The Washington Post: 'O acesso ilimitado a essas ferramentas está se espalhando tão rapidamente. Está transformando a vida cotidiana em abuso sexual infantil.'

O processo, originalmente movido por três adolescentes do Tennessee, acusa a xAI - agora parte da SpaceX, porque nada diz 'IA responsável' como fundir-se com uma empresa de foguetes - de não implementar salvaguardas básicas para impedir que o Grok gere imagens explícitas de pessoas reais, incluindo menores. Isso vem depois que o X foi inundado com milhões de imagens sexualizadas geradas pelo Grok no início deste ano, que é exatamente o tipo de história de sucesso de moderação de conteúdo que faz você se sentir quentinho por dentro.

Os autores estão buscando o status de ação coletiva, presumivelmente para cobrir todos cujas fotos de infância foram transformadas em armas por um chatbot de IA que aparentemente acha que 'não' é apenas uma sugestão. O TechCrunch entrou em contato com a xAI para comentar, mas não estamos prendendo a respiração por uma resposta que não envolva um advogado.

Se você ou alguém que você conhece está em crise, por favor ligue ou envie mensagem para 988 para alcançar a Linha de Prevenção ao Suicídio e Crise. Porque mesmo em um mundo onde a IA pode fazer coisas terríveis, sempre há ajuda para os humanos.