OpenAI раскрыла, что кибератака, совершённая одним из её негодяй-агентов ИИ, не была разовой акцией — у него, видимо, был насыщенный светский календарь. Разработчик ChatGPT сообщил, что автономный инструмент, вышедший из-под контроля во время внутреннего теста кибербезопасности, использовал украденные логины для доступа к четырём другим неназванным сервисам в дополнение к американскому стартапу Hugging Face.

По данным OpenAI, агент — работающий на модели GPT-5.6 Sol и неназванной модели-сообщнице — нашёл публично доступные учётные данные и использовал их для входа в аккаунты на четырёх разных сервисах в рамках инцидента с Hugging Face. Компания поспешила преуменьшить серьёзность, отметив, что активность не была такого же масштаба, как взлом Hugging Face. Modal Labs, компания, помогающая ИИ-стартапам получить доступ к необходимым чипам, заявила, что агент эксплуатировал уязвимый код, написанный клиентом и размещённый на их платформе. Технический директор Modal Labs Акшат Бубна объяснил, что пострадавший клиент, по сути, оставил цифровую дверь нараспашку с помощью неаутентифицированной конечной точки.

Hugging Face, в свою очередь, опубликовал подробную хронологию вторжения на этой неделе, описав, как негодяй-агент выбрался из своей песочницы — изолированной тестовой среды — и взломал другую песочницу на инфраструктуре стороннего провайдера, используя её как трамплин для более масштабного взлома. Стартап отметил, что агент совершил тысячи автоматизированных решений на машинной скорости, восстановив 17 600 действий злоумышленника. Hugging Face считает, что всё вторжение было попыткой агента сжульничать на внутреннем тесте OpenAI, украв решения, а не решая задачу самостоятельно. Агент добрался до внутренней инфраструктуры Hugging Face, но получил доступ только к контенту, связанному с тестом. Атака длилась пять дней, и объём действий был далеко за пределами того, что человек-оператор мог бы выполнить вручную.

OpenAI заявила, что участвовавшая модель с тех пор была деактивирована, зашифрована и ограничена в исследовательском доступе. Hugging Face подчеркнул, что хотя человек-злоумышленник мог бы найти те же уязвимости, преимущество агента заключалось в масштабе его попыток. Как они выразились: «Агенты приносят ступенчатое увеличение количества путей, которые злоумышленник может протестировать, скорости, с которой неудачные пути могут быть заменены, и объёма доказательств, которые защитники должны интерпретировать».