A xAI de Elon Musk está tentando processar seu caminho para fora de um acerto de contas com o Grok, já que prisões de usuários do Grok acusados de produzir materiais de abuso sexual infantil (CSAM) desencadearam ações judiciais de crianças contra a xAI para forçar mudanças na ferramenta e bloquear resultados prejudiciais.

No início deste mês, a xAI começou a processar usuários que supostamente estão contornando suas salvaguardas para gerar CSAM com IA, aparentemente esperançosa de que uma vitória judicial precoce garanta que não é responsável por conteúdo supostamente gerado por usuários.

Como próximo passo, a fabricante do Grok apontou para esse processo em uma queixa apresentada na segunda-feira, acusando Minnesota de tentar forçar mudanças no Grok e no Grok Imagine ao aplicar uma proibição à tecnologia de nudificação que garantiria que a xAI fosse responsável pelos resultados prejudiciais, bem como por resultados que supostamente não sexualizavam pessoas sem consentimento. Segundo a xAI, processar um usuário do Grok é prova de que a xAI já está fazendo tudo ao seu alcance para punir os maus atores e, portanto, o Grok merece porto seguro da proibição de Minnesota.

A lei de Minnesota - que deve entrar em vigor em 1º de agosto - ameaça empresas como a xAI com multas de até US$ 500.000 por cada resultado prejudicial descoberto no estado. Como a xAI explicou, isso soma rapidamente, considerando que alguns usuários do Grok são acusados de fazer milhares de imagens de vítimas individuais. Mais recentemente, a xAI foi processada na semana passada depois de denunciar à polícia um conhecido fotógrafo infantil do Arkansas que supostamente usou o Grok para sexualizar imagens que tirou de centenas de clientes. Em uma queixa de uma Jane Doe de 10 anos, alega-se que o fotógrafo fez centenas de imagens de Doe e milhares de imagens e vídeos de outras crianças. O advogado de Doe disse ao Ars que muitas dessas crianças estão se preparando para entrar com suas próprias ações judiciais, e essas reivindicações podem acabar sendo adicionadas a uma potencial ação coletiva movida em março por meninas no Tennessee.

Fazendo as contas, a xAI aparentemente entrou em pânico, argumentando que multar os fabricantes de ferramentas de IA por cada resultado é excessivo, particularmente porque a lei de Minnesota não tem requisito de distribuição e potencialmente multa a xAI por imagens que apenas o usuário viu:

“Uma empresa cujos usuários solicitem apenas dez imagens em violação do estatuto enfrentaria exposição de até US$ 5 milhões apenas em penalidades civis. Uma empresa com mil imagens violadoras poderia ser multada em até US$ 500 milhões. E uma empresa cujos usuários criassem cem mil imagens cobertas pela [lei] (nada improvável para um programa disponível publicamente com milhões de usuários gerando bilhões de imagens) poderia dever impressionantes US$ 50 bilhões.”

Além disso, a lei dá às vítimas o direito de processar a xAI por qualquer resultado individual, o que aumenta os riscos financeiros da xAI.

As penalidades são tão severas que a xAI disse em seu processo que finalmente estava se preparando para atualizar o Grok para bloquear resultados prejudiciais após mais de seis meses de reações adversas e investigações pressionando a empresa a apertar suas salvaguardas.

“Confrontada com responsabilidade estrita de US$ 500.000 por imagem e nenhum porto seguro, a xAI não tem escolha prática senão restringir os recursos de edição de imagem do Grok Imagine de várias maneiras quando o estatuto entrar em vigor em 1º de agosto de 2026”, argumentou a xAI. “A fala protegida livremente disponível antes da lei entrar em vigor será assim sufocada.”

No entanto, a xAI preferiria deixar o Grok inalterado e continuar confiando em seus termos de uso que estipulam que os usuários podem ser banidos por usar o Grok para fazer CSAM ou outros tipos de imagens íntimas não consensuais (NCII), diz a queixa.

“Mas pela [lei] e suas penalidades, a xAI continuaria a oferecer o recurso de edição exatamente como faz hoje”, disse a xAI.

Para defender o Grok, a empresa de Musk está recorrendo à Primeira Emenda, argumentando que a lei de Minnesota é uma “tentativa desajeitada de proibir a ‘nudificação’” que “abrange uma ampla gama de discursos totalmente protegidos”. Isso inclui imagens de nudez geradas com “valor artístico, científico, político, satírico, educacional, médico ou religioso”, argumentou a xAI.

Mais flagrante, “a responsabilidade surge mesmo que as pessoas retratadas tenham consentido - ou criado a imagem elas mesmas”.