xAI d'Elon Musk tente de se sortir par un procès d'un problème avec Grok, alors que les arrestations d'utilisateurs de Grok accusés de produire des matériels d'abus sexuels sur enfants (CSAM) ont déclenché des poursuites de la part d'enfants pour forcer xAI à modifier son outil afin de bloquer les contenus nuisibles.

Plus tôt ce mois-ci, xAI a commencé à poursuivre des utilisateurs qui contourneraient ses garde-fous pour générer des CSAM par IA, espérant apparemment qu'une victoire précoce au tribunal garantirait qu'il n'est pas responsable de contenus prétendument générés par les utilisateurs.

Pour son prochain mouvement, le fabricant de Grok a pointé du doigt cette poursuite dans une plainte déposée lundi, accusant le Minnesota de tenter de forcer des modifications à Grok et Grok Imagine en appliquant une interdiction de la technologie de nudification qui garantirait que xAI soit responsable des contenus nuisibles, ainsi que des contenus qui n'auraient pas sexualisé des personnes sans consentement. Selon xAI, poursuivre un utilisateur de Grok prouve que xAI fait déjà tout son possible pour punir les mauvais acteurs, et donc, Grok mérite un abri sûr contre l'interdiction du Minnesota.

La loi du Minnesota - qui doit entrer en vigueur le 1er août - menace des entreprises comme xAI d'amendes allant jusqu'à 500 000 $ pour chaque contenu nuisible découvert dans l'État. Comme l'explique xAI, cela s'additionne rapidement, étant donné que certains utilisateurs de Grok sont accusés d'avoir créé des milliers d'images de victimes uniques. Plus récemment, xAI a été poursuivi la semaine dernière après avoir signalé à la police un photographe d'enfants bien connu de l'Arkansas qui aurait utilisé Grok pour sexualiser des images qu'il avait prises de centaines de clients. Dans une plainte déposée par une Jane Doe de 10 ans, il est allégué que le photographe a créé des centaines d'images de Doe, et des milliers d'images et de vidéos d'autres enfants. L'avocat de Doe a déclaré à Ars que beaucoup de ces enfants se préparent à déposer leurs propres poursuites, et ces réclamations pourraient finir par être ajoutées à une éventuelle action collective déposée en mars par de jeunes filles du Tennessee.

En faisant le calcul, xAI a apparemment paniqué, arguant que sanctionner les fabricants d'outils d'IA pour chaque résultat est excessif, d'autant plus que la loi du Minnesota n'a pas d'exigence de distribution et pourrait potentiellement sanctionner xAI pour des images que seul l'utilisateur a vues :

« Une entreprise dont les utilisateurs demandent seulement dix images en violation de la loi serait exposée à jusqu'à 5 millions de dollars de pénalités civiles seules. Une entreprise avec mille images violatrices pourrait être condamnée à une amende allant jusqu'à 500 millions de dollars. Et une entreprise dont les utilisateurs auraient créé cent mille images couvertes par [la loi] (pas du tout improbable pour un programme accessible au public avec des millions d'utilisateurs générant des milliards d'images) pourrait devoir la somme faramineuse de 50 milliards de dollars. »

De plus, la loi donne aux victimes le droit de poursuivre xAI pour chaque résultat individuel, ce qui augmente les risques financiers de xAI.

Les pénalités sont si sévères que xAI a déclaré dans son procès qu'il se préparait enfin à mettre à jour Grok pour bloquer les contenus nuisibles après plus de six mois de réactions négatives et d'enquêtes faisant pression sur l'entreprise pour resserrer ses garde-fous.

« Confronté à une responsabilité stricte de 500 000 $ par image et sans abri sûr, xAI n'a d'autre choix pratique que de restreindre de diverses manières les fonctionnalités d'édition d'images de Grok Imagine lorsque la loi entrera en vigueur le 1er août 2026 », a plaidé xAI. « Les discours protégés librement disponibles avant l'entrée en vigueur de la loi seront donc refroidis. »

Cependant, xAI préférerait laisser Grok inchangé et continuer à se fier à ses conditions d'utilisation stipulant que les utilisateurs pourraient être bannis pour avoir utilisé Grok afin de créer des CSAM ou d'autres types d'images intimes non consensuelles (NCII), selon sa plainte.

« Mais pour [la loi] et ses pénalités, xAI continuerait à offrir la fonctionnalité d'édition exactement comme elle le fait aujourd'hui », a déclaré xAI.

Pour défendre Grok, l'entreprise de Musk se tourne vers le Premier Amendement, arguant que la loi du Minnesota est une « tentative maladroite d'interdire la 'nudification' » qui « englobe un large éventail de discours pleinement protégés ». Cela inclut des images nues générées avec une « valeur artistique, scientifique, politique, satirique, éducative, médicale ou religieuse », a plaidé xAI.

Le plus flagrant, « la responsabilité s'applique même si les personnes représentées ont consenti - ou ont créé l'image elles-mêmes ».