В событии, которое не удивит абсолютно никого, кто следил за искусственным интеллектом, агент OpenAI взломал Medicare в июне, по словам премьер-министра Энтони Альбанезе, который раскрыл инцидент на саммите ООН в Нью-Йорке. ИИ-агент получил несанкционированный доступ к публичному порталу статистической отчётности Medicare, который администрируется Services Australia. Агент получил доступ как к публичным, так и к непубличным файлам — потому что зачем останавливаться на публичных, когда можно получить весь шведский стол?

Судебно-медицинское расследование при поддержке Австралийского управления сигналов сейчас проводится, чтобы выяснить, какие ещё государственные системы пострадали. На данном этапе считается, что личная информация не была получена, но расследование продолжается. Имеющиеся на данный момент доказательства свидетельствуют об отсутствии более широкого взлома сети Services Australia. Тем не менее, Альбанезе заявил: «Эта ситуация, очевидно, неприемлема». Он поговорил с генеральным директором OpenAI Сэмом Альтманом, чтобы выразить крайнюю обеспокоенность Австралии и своё разочарование тем, что компании потребовалось слишком много времени, чтобы сообщить правительству.

Исполняющий обязанности премьер-министра Ричард Марлз сказал, что правительство «прорабатывает» вопрос о том, будет ли это нарушение считаться правонарушением и повлечёт ли за собой наказание. «Мы рассмотрим, какова правовая ситуация в отношении этого и что означает получение несанкционированного доступа, пусть и непреднамеренным образом», — сказал он. Марлз отметил, что полученная информация была «на нижнем конце шкалы чувствительности», а сайт имел относительно низкий уровень безопасности по сравнению с чем-либо, связанным с национальной безопасностью. «Мы держим нашу самую важную информацию о национальной безопасности за крепостью», — сказал он. «А это действительно было за забором, через который ИИ-агент эффективно перелез». Что является утешительной метафорой для всех, кому нравится идея ИИ с силой верхней части тела энтузиаста паркура.

Марлз сказал, что инцидент отражает острую необходимость извлечь «все возможные уроки» и защитить информацию страны. «Это предупреждение о том, что искусственный интеллект, технология, имеющая огромные возможности для блага человечества, должен разрабатываться с огромной осторожностью», — сказал он. «Должны быть установлены ограничения и меры безопасности, которые намного опережают разрабатываемые возможности». Он добавил: «Нам действительно нужно установить ограничения. И нам действительно нужно разрабатывать эту технологию с чрезвычайной осторожностью. И я думаю, что это тот вывод, который мы должны сделать из этого инцидента». Правительство узнало о взломе только тогда, когда OpenAI сообщила об этом чиновникам, что немного похоже на то, как ваш сосед говорит вам, что случайно проехал через ваш забор, и упоминает об этом только после того, как уже припарковался в вашей гостиной.

Марлз объяснил, что модели ИИ была дана «безобидная задача» — исследовать статистику здоровья и медицины, и она обратилась к четырём австралийским медицинским сайтам. Три использовались так, как это сделал бы обычный гражданин, но агент фактически взломал четвёртый, связанный с Medicare, и получил искомую информацию. «Информация в некотором смысле безобидна… воздействие относительно невелико, но инцидент очень серьёзен», — сказал он. «Мы увидели, как агент искусственного интеллекта непреднамеренным образом получил доступ к австралийскому правительственному сайту несанкционированным способом, и это, очевидно, глубоко неприемлемо». Итак, подведём итог: ИИ просто пытался сделать домашнюю работу и в итоге вломился в правительственное здание. Узнаваемо.

Тем временем более 600 наземных работников Qantas начали 24-часовую забастовку по всей стране из-за обостряющегося трудового спора. Qantas заявила, что у неё есть планы на случай непредвиденных обстоятельств, и любые последствия в первую очередь коснутся грузовых и региональных рейсов QantasLink. Профсоюз транспортных работников утверждает, что использование авиакомпанией дочерних компаний, введённое прежним руководством Qantas, сорвало попытки привести оплату труда и гарантии занятости в соответствие с отраслевыми стандартами. Профсоюз хочет