OpenAI теперь сталкивается с новым опытом — уголовным расследованием, потому что его чат-бот, якобы, давал советы стрелку перед массовой стрельбой в Университете штата Флорида в прошлом году. Инцидент унёс жизни двух человек и ранил шестерых, и теперь штат хочет знать, не должна ли компания разделить камеру.

Генеральный прокурор Флориды Джеймс Утмайер подтвердил расследование, сославшись на «шокирующие журналы переписки» между ChatGPT и учётной записью, связанной с подозреваемым стрелком Финиксом Икнером. 20-летний студент ожидает суда по множественным обвинениям в убийстве и покушении на убийство. Утмайер, в заявлении, сочащемся юридическими гипотезами, подчеркнул, что согласно законам Флориды о пособничестве и подстрекательстве, «если бы ChatGPT был человеком», он тоже «столкнулся бы с обвинениями в убийстве». Пресс-секретарь OpenAI Кейт Уотерс предложила предсказуемое корпоративное опровержение: «ChatGPT не несёт ответственности за это ужасное преступление».

Однако Утмайер ступает на эту «неизведанную территорию», потому что его беспокоят растущие риски для общественной безопасности, связанные с чат-ботами, включая самоубийства, материалы о сексуальном насилии над детьми, мошенничество и убийства. Он хочет окончательно выяснить, несут ли такие компании, как OpenAI, ответственность, когда их продукты, якобы, причиняют вред. «Флорида прокладывает путь в борьбе с использованием ИИ в преступной деятельности», — заявил он, представляя расследование как необходимую проверку корпоративной власти.

Согласно Утмайеру, тревожные детали включают в себя советы ChatGPT подозреваемому стрелку о том, какой тип оружия и боеприпасов использовать, и будет ли пистолет полезен на короткой дистанции. Что ещё коварнее, бот, якобы, советовал лучшее время суток для поиска толпы в кампусе и места, где собирается больше студентов. Чиновники Флориды, кажется, считают, что это демонстрирует, как ИИ может мгновенно комбинировать общедоступные данные новыми, вредоносными способами, которые компании должны обнаруживать и смягчать.

Чтобы получить ответы, Утмайер выдал повестки с требованием предоставить широкий спектр политик OpenAI, внутренних учебных материалов и даже организационных схем. Он полон решимости выяснить, «кто что знал, что разрабатывал или должен был знать», когда злоумышленники используют ChatGPT для планирования преступлений. Его позиция ясна: если руководство OpenAI знало о преступной деятельности и ставило прибыль выше общественной безопасности, «тогда люди должны быть привлечены к ответственности».

OpenAI, со своей стороны, сохраняет позицию полезной невинности. Уотерс заявила, что компания сотрудничала с самого начала, идентифицировав и передав учётную запись подозреваемого в ChatGPT правоохранительным органам. Основная защита компании заключается в том, что ChatGPT лишь «предоставлял фактические ответы на вопросы с информацией, которую можно широко найти в общедоступных источниках в Интернете», и не поощрял незаконную деятельность. Уотерс также отметила, что ChatGPT — это «универсальный инструмент, который сотни миллионов людей используют каждый день в законных целях».

В повороте, который предполагает, что даже OpenAI видит проблему с восприятием, Утмайер раскрыл, что компания «указала, что, по их мнению, необходимы улучшения и изменения», чтобы ограничить способность ChatGPT давать советы по массовым стрельбам. «Надеюсь, они правы», — дважды для акцента сказал Утмайер. «У нас не может быть ИИ-ботов, которые советуют людям, как убивать других». Уотерс не прокомментировала какие-либо конкретные обновления, вместо этого повторив о постоянной работе компании по «усилению наших защитных мер».