xAI Elona Muska próbuje się wyprocesować z opresji związanej z Grokiem, gdy aresztowania użytkowników Groka oskarżonych o tworzenie materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM) wywołały pozwy ze strony dzieci, które chcą zmusić xAI do zmian w narzędziu, aby blokowało szkodliwe treści.

Na początku tego miesiąca xAI zaczęło pozywać użytkowników, którzy rzekomo obchodzą zabezpieczenia, aby generować AI CSAM, najwyraźniej mając nadzieję, że wczesne zwycięstwo w sądzie zagwarantuje, że nie ponosi odpowiedzialności za rzekomo generowane przez użytkowników treści.

W następnym posunięciu producent Groka wskazał na ten pozew w skardze złożonej w poniedziałek, oskarżając Minnesotę o próbę wymuszenia zmian w Groku i Grok Imagine poprzez egzekwowanie zakazu technologii nagich obrazów, co gwarantowałoby, że xAI ponosi odpowiedzialność za szkodliwe wyniki, a także wyniki, które rzekomo nie seksualizowały ludzi bez zgody. Według xAI, pozywanie użytkownika Groka jest dowodem na to, że xAI robi już wszystko, co w jego mocy, aby karać złych aktorów, a zatem Grok zasługuje na bezpieczną przystań przed zakazem Minnesoty.

Ustawa Minnesoty - która ma wejść w życie 1 sierpnia - grozi firmom takim jak xAI grzywnami w wysokości do 500 000 dolarów za każde szkodliwe wyjście wykryte w stanie. Jak wyjaśniło xAI, szybko się to sumuje, biorąc pod uwagę, że niektórzy użytkownicy Groka są oskarżeni o tworzenie tysięcy obrazów pojedynczych ofiar. Ostatnio xAI zostało pozwane w zeszłym tygodniu po tym, jak doniosło policji o znanym fotografze dzieci z Arkansas, który rzekomo używał Groka do seksualizacji zdjęć, które zrobił setkom klientów. W skardze złożonej przez 10-letnią Jane Doe zarzuca się, że fotograf zrobił setki obrazów Doe oraz tysiące obrazów i filmów innych dzieci. Prawnik Doe powiedział Ars, że wiele z tych dzieci przygotowuje się do złożenia własnych pozwów, a te roszczenia mogą zostać dodane do potencjalnego pozwu zbiorowego złożonego w marcu przez młode dziewczęta w Tennessee.

Liczenie matematyczne, xAI najwyraźniej spanikowało, argumentując, że karanie twórców narzędzi AI za każde wyjście jest nadmierne, szczególnie że ustawa Minnesoty nie wymaga dystrybucji i potencjalnie karze xAI za obrazy, które widział tylko użytkownik:

„Firma, której użytkownicy zażądają tylko dziesięciu obrazów z naruszeniem ustawy, będzie narażona na kary cywilne w wysokości do 5 milionów dolarów. Firma z tysiącem obrazów naruszających prawo może zostać ukarana grzywną do 500 milionów dolarów. A firma, której użytkownicy stworzyli sto tysięcy obrazów objętych [ustawą] (wcale nie niemożliwe dla publicznie dostępnego programu z milionami użytkowników generującymi miliardy obrazów) mogłaby być winna oszałamiające 50 miliardów dolarów.”

Ponadto ustawa daje ofiarom prawo do pozywania xAI za każde indywidualne wyjście, co zwiększa ryzyko finansowe xAI.

Kary są tak surowe, że xAI stwierdziło w swoim pozwie, że wreszcie przygotowuje się do aktualizacji Groka, aby blokować szkodliwe wyniki po ponad sześciu miesiącach krytyki i dochodzeń naciskających firmę na zaostrzenie zabezpieczeń.

„W obliczu odpowiedzialności na zasadzie ryzyka w wysokości 500 000 dolarów za obraz i braku bezpiecznej przystani, xAI nie ma praktycznego wyboru, jak tylko ograniczyć funkcje edycji obrazów Grok Imagine na różne sposoby, gdy ustawa wejdzie w życie 1 sierpnia 2026 roku” – argumentowało xAI. „Chroniona mowa, swobodnie dostępna przed wejściem w życie ustawy, zostanie w ten sposób stłumiona.”

Jednak xAI wolałoby pozostawić Groka bez zmian i nadal polegać na swoich warunkach użytkowania, które stanowią, że użytkownicy mogą zostać zbanowani za używanie Groka do tworzenia CSAM lub innych rodzajów intymnych obrazów bez zgody (NCII), jak stwierdzono w skardze.

„Gdyby nie [ustawa] i jej kary, xAI nadal oferowałoby funkcję edycji dokładnie tak, jak robi to dzisiaj” – powiedziało xAI.

Aby bronić Groka, firma Muska sięga po Pierwszą Poprawkę, argumentując, że ustawa Minnesoty jest „niezdarną próbą zakazania ‘nagich obrazów’”, która „obejmuje szeroki zakres w pełni chronionej mowy”. Obejmuje to nagie obrazy generowane z „wartością artystyczną, naukową, polityczną, satyryczną, edukacyjną, medyczną lub religijną” – argumentowało xAI.

Najbardziej rażące jest to, że „odpowiedzialność powstaje nawet wtedy, gdy przedstawione osoby wyraziły zgodę – lub same stworzyły obraz”.