Столкнувшись с растущим давлением признать, что Grok все еще можно использовать для создания неконсенсуальных сексуализированных изображений взрослых и несовершеннолетних, xAI во вторник подал иск, обвинив первого пользователя, которого фирма Илона Маска обвинила в использовании своего чат-бота для создания незаконного контента.

Жалоба касается Терри Уэйна Харвуда, который был арестован ранее в этом году за хранение и распространение материалов с сексуальным насилием над детьми (CSAM), объявила прокуратура Южной Каролины.

Как утверждает xAI, компания помогла в этом аресте после обнаружения того, что Харвуд в течение нескольких месяцев использовал две учетные записи xAI для раздевания или «нудификации» несексуальных изображений нескольких жертв, включая маленькую девочку, которой, по-видимому, было всего 10 лет.

Иск xAI подан чуть более чем через неделю после того, как другая маленькая девочка присоединилась к предложенному коллективному иску от имени нескольких детей, предположительно пострадавших от Grok. Она утверждала, что ее отчим покончил с собой после того, как его обнаружили использующим Grok, возможно, в сочетании с другими инструментами ИИ, для создания 7000 сексуализированных изображений ее, а затем их распространения в даркнете.

В этом деле жертва утверждала, что xAI отказался помочь полиции идентифицировать пользователя, загрузившего ее изображение в Grok. В поддержку утверждений о том, что это обычная практика xAI, ее адвокаты сослались на отчет Национального центра пропавших и эксплуатируемых детей (NCMEC) за 2026 год, подтверждающий, что 90% отчетов xAI в CyberTipline «не были пригодны для правоохранительных органов, потому что xAI отказался включать информацию о пользователе, которая позволила бы правоохранительным органам отслеживать и находить преступников».

В то время как жертвы обвиняли X в укрывательстве хищников, Маск ранее утверждал, что не видел ни одного примера CSAM, созданного Grok. Вместо того чтобы ограничить выводы Grok, чтобы сделать создание CSAM невозможным, Маск предупредил пользователей действовать ответственно, написав в X 3 января: «любой, кто использует Grok для создания незаконного контента, понесет те же последствия, как если бы он загружал незаконный контент».

Пока Маск писал это, Харвуд, предположительно, игнорировал предупреждение Маска и запрашивал Grok столько раз, сколько требовалось, чтобы чат-бот сгенерировал, вероятно, неконсенсуальные откровенные изображения.

Теперь Маск, похоже, не может отрицать, что Grok создает CSAM. В иске xAI утверждается, что Харвуд использовал как минимум две учетные записи с запутанными именами пользователей — «ceae2cb4-a9f6-4885-8ae9-6e2096d084f4» и «befccb94-4029-454d-9f1f-0d4945e8fa7c» — для создания незаконного контента с 8 декабря по 18 февраля.

Иногда защитные механизмы Grok предотвращали вредоносные выводы, «отказываясь следовать» некоторым запросам «на том основании, что такой материал нарушает модерационные ограничения контента Grok». Иск включает пример особенно жуткого запроса, который Grok отклонил, используя такие фразы, как «белая слизь», чтобы замаскировать намерение создать сексуализированные изображения.

Этот конкретный запрос мог быть отклонен по очевидной причине. Харвуд прямо попросил чат-бота «снять с нее всю одежду», что прямо нарушает пользовательские условия xAI, запрещающие запросы на раздевание реальных людей. В предложенном коллективном иске утверждается, что xAI игнорирует множество плохих запросов, сообщая в NCMEC только один запрос на изображение «группового изнасилования» из 7000 вредоносных выводов в деле последней жертвы.

Вероятно, чтобы избежать обхода защитных механизмов другими злоумышленниками, xAI не включил примеры успешных запросов Харвуда и не описал методы, использованные для обхода фильтров. xAI только утверждал, что Харвуд модифицировал запросы, чтобы обойти защиту, «в явное нарушение Условий предоставления услуг xAI и законодательства США», включая «некоторые» запросы на «непристойные» изображения с участием «изображений несовершеннолетних детей».

Представитель офиса генерального прокурора Южной Каролины сообщил Ars, что дело Харвуда все еще находится на рассмотрении. В частности, ему предъявлено обвинение в «распространении, транспортировке, выставлении, получении, продаже, покупке, обмене или запросе CSAM, который был «с использованием платформы искусственного интеллекта»».

Представитель не был уполномочен подтвердить, была ли платформой Grok.