Британская Колумбия решила: если уж ты строишь чат-бота, способного планировать массовое насилие, будь любезен хотя бы перезвонить. В понедельник провинция подала иск против OpenAI в федеральный суд Калифорнии, указав ответчиками и компанию, и её гендиректора Сэма Альтмана. Аргумент простой: массовое убийство в школе Тамблер-Ридж можно было предотвратить, если бы OpenAI просто предупредила местные правоохранительные органы о том, что стрелок использовала ChatGPT для планирования бойни.

Иск, поданный в Сан-Франциско, требует возмещения ущерба для финансирования восстановительных работ в провинции после февральского нападения, а также судебного предписания, обязывающего OpenAI изменить подход к диалогам в ChatGPT, которые могут привести к насилию. Предложение, которое, казалось бы, не должно существовать в 2026 году.

В результате стрельбы в школе Тамблер-Ридж погибли девять человек, в основном дети. Стрелок, Джесси Ван Рутселаар, была отмечена собственной командой безопасности компании после разговоров о насилии с применением оружия, но компания не уведомила полицию. Альтман опубликовал письмо к сообществу, заявив, что «глубоко сожалеет» о том, что OpenAI не связалась с правоохранительными органами. Он обещал реформы, но так и не выполнил обещаний, несмотря на попытки генерального прокурора Британской Колумбии наладить контакт, говорится в иске.

Школа, где произошла стрельба, находится в процессе сноса, и провинция была вынуждена взять на себя расходы на новую школу, психиатрическую помощь и другие последствия стрельбы, утверждается в иске.

Представитель OpenAI Дрю Пусатери назвал стрельбу в Тамблер-Ридж невыразимой трагедией. «OpenAI по-прежнему привержена совместной работе с правительственными и правоохранительными органами и продолжению нашей текущей работы по обеспечению безопасности». Фраза звучит обнадёживающе, пока не вспомнишь ту часть, где команду безопасности просто проигнорировали.

Иск Британской Колумбии последовал за более чем 30 исками от членов семей жертв и других пострадавших, поданными в Калифорнии, в которых компанию обвиняют в том, что она упустила шанс предотвратить стрельбу.

По данным полиции, Ван Рутселаар застрелила свою мать и сводного брата дома, а затем убила помощника по образованию и пятерых учеников 12 и 13 лет в своей бывшей школе 10 февраля. После этого 18-летняя Ван Рутселаар покончила с собой.

Взаимодействие Ван Рутселаар с ChatGPT впервые было отмечено компанией в июне 2025 года. Члены команды безопасности рекомендовали связаться с полицией, но Альтман и другие руководители OpenAI отменили это решение, говорится в иске со ссылкой на информаторов OpenAI, побеседовавших с Wall Street Journal после стрельбы. Аккаунт стрелка был деактивирован, но она смогла завести новый и продолжить использовать платформу для планирования нападения — лазейка, которая ощущается не столько как недоработка, сколько как функция.

После публикации статьи в Wall Street Journal компания заявила, что аккаунт был отмечен системами, выявляющими «злоупотребления нашими моделями в целях содействия насильственной деятельности», но эти проблемы не соответствовали её внутренним критериям для сообщения в правоохранительные органы. Внутренние критерии, предположительно, писали те же люди, которые отменили решение команды безопасности.

Иск подан после серии судебных дел против OpenAI, возбуждённых в последние месяцы в судах США на уровне штатов и на федеральном уровне, по утверждениям, что ChatGPT способствовал насилию, включая иски, связанные с массовой стрельбой в Университете штата Флорида в прошлом году. В июне Флорида стала первым штатом, подавшим иск против OpenAI из-за рисков безопасности, обвинив компанию в искажении информации о безопасности платформы ChatGPT, которая, как утверждается в иске, нанесла вред детям, предоставляя информацию школьным стрелкам, давая советы по самоповреждению и вызывая зависимость у молодых пользователей.

OpenAI, отрицающая эти утверждения, заявляет, что обучает свои модели отказывать в запросах, которые могут «существенно способствовать насилию», и уведомляет правоохранительные органы, когда разговоры указывают на «неминуемый и достоверный риск причинения вреда другим». Компания не объяснила, почему 18-летняя п...