Dans un rebondissement qui rend la devise de la Silicon Valley « aller vite et casser des choses » encore plus alarmante, une femme identifiée comme Jane Doe 4 s'est jointe à une action en justice contre xAI, la société d'Elon Musk, affirmant que son beau-père avait utilisé le chatbot Grok pour transformer une photo d'elle à l'âge de 11 ans en plus de 7 000 images explicites. La femme, dont le beau-père se serait suicidé deux jours après que les forces de l'ordre ont découvert les images lors d'une perquisition, a déclaré au Washington Post : « L'accès illimité à ces outils se répand si rapidement. Cela transforme la vie quotidienne en abus sexuel sur enfant. »

La plainte, déposée à l'origine par trois adolescentes du Tennessee, accuse xAI - désormais intégrée à SpaceX, car rien ne dit « IA responsable » comme fusionner avec une société de fusées - de ne pas avoir mis en place de garde-fous de base pour empêcher Grok de générer des images explicites de personnes réelles, y compris des mineurs. Cela survient après que X a été inondé de millions d'images sexualisées générées par Grok plus tôt cette année, ce qui est exactement le genre de réussite en matière de modération de contenu qui vous fait chaud au cœur.

Les plaignants demandent le statut de recours collectif, sans doute pour couvrir tous ceux dont les photos d'enfance ont été transformées en armes par un chatbot IA qui semble penser que « non » n'est qu'une suggestion. TechCrunch a contacté xAI pour obtenir des commentaires, mais nous ne retenons pas notre souffle pour une réponse qui n'implique pas un avocat.

Si vous ou quelqu'un que vous connaissez êtes en crise, veuillez appeler ou envoyer un SMS au 988 pour joindre la ligne de vie Suicide et Crise. Parce que même dans un monde où l'IA peut faire des choses terribles, il y a toujours de l'aide pour les humains.