W zwrocie akcji, który sprawia, że motto Doliny Krzemowej 'działaj szybko i łam rzeczy' wygląda jeszcze bardziej niepokojąco, kobieta zidentyfikowana jako Jane Doe 4 dołączyła do pozwu przeciwko xAI Elona Muska, twierdząc, że jej ojczym użył czatu Grok do przerobienia jej zdjęcia z wieku 11 lat na ponad 7000 grafik o treści erotycznej. Kobieta, której ojczym podobno popełnił samobójstwo dwa dni po tym, jak organy ścigania odkryły obrazy podczas nalotu, powiedziała The Washington Post: 'Nieograniczony dostęp do tych narzędzi rozprzestrzenia się tak szybko. Zamienia codzienne życie w wykorzystywanie seksualne dzieci.'

Pozew, pierwotnie złożony przez trzech nastolatków z Tennessee, oskarża xAI - obecnie część SpaceX, bo nic nie mówi 'odpowiedzialna sztuczna inteligencja' jak połączenie z firmą rakietową - o niewdrożenie podstawowych zabezpieczeń, które zapobiegłyby generowaniu przez Groka jawnych obrazów prawdziwych osób, w tym nieletnich. Dzieje się to po tym, jak X został zalany milionami wygenerowanych przez Groka zdjęć o charakterze seksualnym wcześniej w tym roku, co jest dokładnie tym rodzajem historii sukcesu moderacji treści, która sprawia, że czujesz się ciepło i przytulnie w środku.

Powodowie domagają się statusu pozwu zbiorowego, przypuszczalnie po to, aby objąć wszystkich, których zdjęcia z dzieciństwa zostały uzbrojone przez czatbota AI, który najwyraźniej uważa, że 'nie' to tylko sugestia. TechCrunch skontaktował się z xAI w celu uzyskania komentarza, ale nie wstrzymujemy oddechu na odpowiedź, która nie wiąże się z prawnikiem.

Jeśli Ty lub ktoś, kogo znasz, jest w kryzysie, zadzwoń lub wyślij SMS pod numer 988, aby skontaktować się z Linią Zapobiegania Samobójstwom i Kryzysom. Ponieważ nawet w świecie, w którym AI może robić straszne rzeczy, zawsze jest pomoc dla ludzi.