В сюжетном повороте, который делает девиз Кремниевой долины «двигайся быстро и ломай вещи» ещё более тревожным, женщина, идентифицированная как Джейн Доу 4, присоединилась к иску против xAI Илона Маска, утверждая, что её отчим использовал чат-бот Grok, чтобы превратить её фото в возрасте 11 лет в более чем 7000 изображений откровенного содержания. Женщина, чей отчим, по сообщениям, покончил с собой через два дня после того, как правоохранительные органы обнаружили изображения во время обыска, рассказала The Washington Post: «Безграничный доступ к этим инструментам распространяется так быстро. Он превращает повседневную жизнь в сексуальное насилие над детьми».

Иск, первоначально поданный тремя подростками из Теннесси, обвиняет xAI — теперь часть SpaceX, потому что ничто так не говорит об «ответственном ИИ», как слияние с ракетной компанией — в неспособности внедрить базовые меры защиты, чтобы предотвратить создание Grok изображений откровенного содержания реальных людей, включая несовершеннолетних. Это происходит после того, как X был наводнён миллионами сгенерированных Grok сексуализированных изображений ранее в этом году, что является именно той историей успеха модерации контента, от которой на душе тепло и уютно.

Истцы добиваются статуса коллективного иска, предположительно, чтобы охватить всех, чьи детские фотографии были использованы в качестве оружия ИИ-чатботом, который, по-видимому, считает «нет» просто предложением. TechCrunch связался с xAI за комментарием, но мы не задерживаем дыхание в ожидании ответа, который не включает юриста.

Если вы или кто-то из ваших знакомых находитесь в кризисе, пожалуйста, позвоните или отправьте сообщение на номер 988, чтобы связаться с линией помощи по предотвращению самоубийств и кризисным ситуациям. Потому что даже в мире, где ИИ может творить ужасные вещи, для людей всегда есть помощь.