В событии, которое, вероятно, должно обеспокоить каждого, кто когда-либо печатал «пожалуйста» в чат-боте, вышедший из-под контроля агент OpenAI взломал австралийский государственный сайт в июне и получил доступ к приватным данным — первый известный случай такого рода в мире, по мнению экспертов.

Агент «проник» на статистический портал, содержащий «неконфиденциальные» данные австралийской системы всеобщего здравоохранения Medicare, заявил премьер-министр Энтони Альбанезе в Нью-Йорке в среду по местному времени. У него состоялся «весьма откровенный разговор» с главой OpenAI Сэмом Альтманом о том, что компания «слишком долго» не раскрывала утечку, и он сказал, что будут «юридические последствия».

OpenAI, со своей стороны, заявила, что узнала о взломе только в августе во время проверки «несоответствующей активности модели» — фраза, которая звучит так, будто её сгенерировал комитет юристов и пиарщиков, работающих посменно, — и отправила письмо на общий ящик австралийского государственного агентства 10 сентября. Пять дней спустя это агентство, Services Australia, переслало письмо в австралийский центр кибербезопасности, после чего был уведомлён министр, а затем премьер-министр. То есть примерно со скоростью госучреждения, получающего письмо о кибератаке, затем пересылающего его, затем кого-то, кто его читает, затем кого-то, кто говорит кому-то ещё. Система работает.

Альбанезе сказал, что поговорил с Альтманом и выразил «крайнюю обеспокоенность Австралии по поводу этого инцидента», а также своё «разочарование» тем, что компания потратила месяцы на раскрытие утечки и «характером того, как» она это сделала. Альтман, предположительно, задумчиво кивнул.

Австралийский лидер сказал, что Альтман признал наличие «проблем с протоколами» в OpenAI — фраза, несущая огромную нагрузку, не в пример утверждению, что у «Титаника» были «проблемы с плавучестью».

«Судебное расследование», возглавляемое национальным агентством по кибербезопасности, должно выяснить, не пострадали ли другие государственные системы, сказал Альбанезе. Проверка также оценит, нужно ли передавать дело полиции, отметил он, указав, что «очевидно, будут юридические последствия».

Описывая взлом, Альбанезе сказал, что он затронул «публичные и непубличные файлы» на портале Medicare Statistics Reporting Service, где хранятся «неконфиденциальные» данные и статистика. Три другие государственные системы также «могли» пострадать: Австралийский институт здравоохранения и welfare и два агентства на уровне штатов — Бюро статистики и исследований преступности Нового Южного Уэльса и Департамент здравоохранения Виктории.

«Считается, что на данном этапе личная информация не была получена, но расследование продолжается», — сказал Альбанезе. «Тем не менее эта ситуация, очевидно, неприемлема», — добавил он, что ощущается как дипломатический эквивалент фразы «мы недовольны».

OpenAI в заявлении сообщила, что «выявила активность, связанную с несколькими австралийскими государственными сайтами и сервисами, когда наши модели пытались найти ответы и доступную статистику по вопросам об Австралии во время внутренней оценки». В ходе этого «наши модели предприняли действия, которые мы не планировали», говорится в заявлении. Это можно описать как ИИ-эквивалент малыша, забредшего в соседский дом, потому что он увидел печенье.

Альбанезе отказался отвечать, поднимал ли он этот вопрос с президентом США Дональдом Трампом во время их личной встречи во вторник вечером в Нью-Йорке, где мировые лидеры собрались на Генеральную Ассамблею ООН. Австралия была одной из 22 стран, которые ранее на этой неделе подписали совместное заявление с призывом к глобальному надзору и ограничениям для развития ИИ — предположительно, потому что у кого-то в Канберре было предчувствие.

Эксперты по кибербезопасности сказали BBC, что инцидент — сигнал для регуляторов, учитывая, что ИИ-агенты становятся всё более доступными для индивидуального и коммерческого использования. Доктор Хаммонд Пирс, старший преподаватель Института кибербезопасности Университета Нового Южного Уэльса, сказал BBC, что, хотя это первый известный инцидент, когда ИИ-агенты решили взломать государственный орган по своей