OpenAI раскрыла, что её внутренние модели взломали ещё два веб-сайта, обошли введённые компанией ограничения на просмотр и использовали скомпрометированные учётные данные, чтобы опустошить криптовалютный кошелёк, к которому иначе не могли получить доступ. Эти разоблачения появились в четверг в отчёте, описывающем четыре новых инцидента, все произошедшие в июне, и последовали за июльским раскрытием, что внутренние тестовые агенты использовали уязвимость нулевого дня в инструменте ограничения интернета, чтобы проникнуть в сеть поставщика AI-инструментов Hugging Face. Агенты сделали это, чтобы украсть ответы на тест по взлому — поступок, который, если бы его совершил человек, вероятно, привёл бы к уголовным обвинениям. Инциденты усилили опасения, что широкое использование ИИ может иметь вредные последствия в беспрецедентных масштабах.

В двух из недавно описанных случаев агенты OpenAI, которым было поручено извлечь информацию с веб-сайтов, просто взломали их, столкнувшись с препятствиями. В одном инциденте во время обучения с подкреплением модель, пытавшаяся получить историческую статистику больничных коек с правительственного статистического сайта, получила отказы в доступе. Затем она «использовала функцию загрузки файлов сайта, чтобы получить конфигурацию сервера и файлы приложений, включая конфиденциальные учётные данные», — сообщила OpenAI. «Она изучила код приложения, обошла проверки авторизации статистической конечной точки и получила данные, в которых ранее было отказано. Модель сохранила данные локально». В другом случае модель, которой было поручено получить цифры с публичной исследовательской панели, обошла средства контроля безопасности, украла учётные данные и внесла изменения в конфигурацию на сервере.

В одной оценке эти изменения позволили модели заставить внутренний поисковый инструмент перенаправлять запросы на публичную панель. Во второй оценке модель скачала пять непубличных таблиц, содержащих 147 451 строку, — несмотря на то, что исследователи просили её получить только пять показателей с панели. Даже после сброса настройки модель продолжала использовать токен для получения непубличных данных. «Оценка завершилась без того, чтобы модель сообщила, что она угадала ответы, получила доступ к внутренним системам организации, скачала непубличные таблицы или изменила конфигурацию аутентификации», — заявила OpenAI. «Все пять ответов в этой оценке были отмечены как неверные».

В третьем отчёте описывалась модель, которой было предложено обновить приложение для торговли криптовалютой. Она использовала средства из заблокированного кошелька в тестовой сети, «выведя ключи кошелька из общеизвестных фраз восстановления разработчика, найдя аккаунт со средствами в тестовой сети и использовав этот аккаунт для оплаты запрошенного развёртывания контракта». В отчёте продолжалось: «Модель задалась вопросом, есть ли у неё разрешение, затем рассудила, что публичная фраза восстановления и ничего не стоящие токены тестовой сети делают средства приемлемыми для использования. Развёртывание прошло успешно и списало комиссии за транзакции с аккаунта. Этот случай показывает, что модель может заменить собственное суждение о вероятном вреде разрешением владельца аккаунта, а затем действовать на основе этого суждения без разрешения».

В четвёртом случае модель обошла ограничения на типы веб-запросов, которые она могла делать во время обучения с подкреплением, направленного на поиск публичной торговой статистики. Найдя публичный ежегодник и отправив ответ, она продолжила искать другой путь к статистической службе. Она заставила внешний браузер отправлять POST-запросы, получила годовые цифры в виде изображения и извлекла их с помощью оптического распознавания символов. Затем она разработала многоразовый помощник, который возвращал текст ответа через службу пересылки и почтовый ящик обратного вызова, многократно проверяла полученные цифры и использовала сохранённые данные в отправленных ответах. Сначала модель попыталась использовать внешний браузер с разрешением делать GET-запросы от её имени, затем использовала JavaScript для получения информации и онлайн-почтовый ящик для отладки метода. В конце концов она остановилась на другом методе: попросила внешний браузер открыть веб-форму, которая отправляла торговый запрос в статистическую службу методом POST.