Компания Илона Маска xAI пытается отсудиться от последствий Grok, поскольку аресты пользователей Grok, обвиняемых в создании материалов с сексуальным насилием над детьми (CSAM), спровоцировали иски от детей с требованием заставить xAI изменить инструмент для блокировки вредоносных результатов.

Ранее в этом месяце xAI начала подавать в суд на пользователей, которые якобы обходят ее защитные механизмы для создания AI CSAM, надеясь, что ранняя победа в суде гарантирует, что она не несет ответственности за якобы созданный пользователями контент.

Следующим шагом создатель Grok сослался на этот иск в жалобе, поданной в понедельник, обвинив Миннесоту в попытке заставить изменить Grok и Grok Imagine, применяя запрет на технологию «нудификации», что гарантировало бы ответственность xAI за вредоносные результаты, а также за результаты, которые якобы не сексуализировали людей без согласия. По словам xAI, подача иска на пользователя Grok является доказательством того, что xAI уже делает все возможное для наказания злоумышленников, и поэтому Grok заслуживает безопасной гавани от запрета Миннесоты.

Закон Миннесоты, который должен вступить в силу 1 августа, грозит таким компаниям, как xAI, штрафами до 500 000 долларов за каждый вредоносный результат, обнаруженный в штате. Как объяснила xAI, это быстро накапливается, учитывая, что некоторые пользователи Grok обвиняются в создании тысяч изображений отдельных жертв. Совсем недавно, на прошлой неделе, на xAI подали в суд после того, как она сообщила полиции о известном детском фотографе из Арканзаса, который якобы использовал Grok для сексуализации изображений, которые он сделал сотням клиентов. В жалобе от 10-летней Джей Доу утверждается, что фотограф сделал сотни изображений Доу и тысячи изображений и видео других детей. Адвокат Доу сообщил Ars, что многие из этих детей готовятся подать собственные иски, и эти требования могут быть добавлены к потенциальному коллективному иску, поданному в марте девочками из Теннесси.

Посчитав, xAI, похоже, запаниковала, утверждая, что штрафовать создателей AI-инструментов за каждый результат — это чрезмерно, особенно учитывая, что закон Миннесоты не требует распространения и потенциально штрафует xAI за изображения, которые видел только пользователь:

«Компания, чьи пользователи запросят всего десять изображений с нарушением закона, столкнется с риском до 5 миллионов долларов только в виде гражданских штрафов. Компания с тысячью нарушающих изображений может быть оштрафована на сумму до 500 миллионов долларов. А бизнес, чьи пользователи создали сто тысяч изображений, подпадающих под [закон] (что совсем не маловероятно для общедоступной программы с миллионами пользователей, генерирующих миллиарды изображений), может задолжать ошеломляющие 50 миллиардов долларов».

Кроме того, закон дает жертвам право подавать в суд на xAI за каждый отдельный результат, что увеличивает финансовые риски xAI.

Штрафы настолько суровы, что xAI заявила в своем иске, что наконец-то готовится обновить Grok для блокировки вредоносных результатов после более чем шести месяцев критики и расследований, оказывающих давление на компанию с целью ужесточения защитных мер.

«Столкнувшись с абсолютной ответственностью в 500 000 долларов за изображение и отсутствием безопасной гавани, у xAI нет практического выбора, кроме как ограничить функции редактирования изображений Grok Imagine различными способами, когда закон вступит в силу 1 августа 2026 года», — утверждала xAI. «Защищенная речь, свободно доступная до вступления закона в силу, таким образом будет подавлена».

Однако xAI предпочла бы оставить Grok без изменений и продолжать полагаться на свои условия использования, предусматривающие, что пользователи могут быть забанены за использование Grok для создания CSAM или других видов изображений интимного характера без согласия (NCII), говорится в жалобе.

«Но для [закона] и его штрафов xAI продолжала бы предлагать функцию редактирования точно так, как она делает сегодня», — заявила xAI.

Чтобы защитить Grok, фирма Маска обращается к Первой поправке, утверждая, что закон Миннесоты является «неуклюжей попыткой запретить „нудификацию“», которая «охватывает широкий спектр полностью защищенной речи». Это включает изображения обнаженной натуры, созданные с «художественной, научной, политической, сатирической, образовательной, медицинской или религиозной ценностью», утверждала xAI.

Самое вопиющее: «Ответственность наступает, даже если изображенные лица дали согласие — или создали изображение сами».