В поступке, заставляющем исследователей безопасности усомниться в своём жизненном выборе, OpenAI, как сообщается, случайно лишила доступа к своей программе кибербезопасности с ограниченным доступом нескольких исследователей. Компания подтвердила, что проблема была вызвана ошибкой, что обнадёживает, потому что мы все знаем, что ошибки никогда не случаются в кибербезопасности.
В среду несколько исследователей на официальных форумах поддержки OpenAI и в X сообщили, что их доступ к программе Trusted Access for Cyber (TAC) был отозван. Когда они открывали страницу ChatGPT Cyber, их встречало сообщение о том, что их личность не может быть подтверждена или что их аккаунт "не подходит в данный момент". Нет ничего лучше небольшого кризиса личности для начала дня.
TAC - это специальная программа OpenAI, которая даёт проверенным исследователям доступ к самым продвинутым моделям ИИ с меньшим количеством защитных ограничений, чем у обычных пользователей. У Anthropic есть аналогичная программа под названием Cyber Verification Program (CVP). Идея заключается в том, чтобы дать доверенным защитникам лучшие инструменты для поиска и сообщения об ошибках, чтобы компании могли быстрее исправлять уязвимости - и не давать злоумышленникам использовать эти инструменты для взлома всех. Это благородная цель, если только вы не злонамеренный хакер, в этом случае продолжайте в том же духе.
Чтобы попасть в TAC, исследователи должны предоставить удостоверение личности и пройти проверку OpenAI. Но теперь некоторых из этих проверенных исследователей выгоняют, и неясно, почему и сколько их. TechCrunch поговорил с пятью исследователями, у которых возникла эта проблема. Один из них сказал, что OpenAI написал им по электронной почте, что их доступ к Daybreak Blue - последнему проверенному уровню TAC - был отозван "из-за технической проблемы, затронувшей ограниченное число пользователей".
В письме говорилось: "Это была проблема на нашей стороне, и это не тот пользовательский опыт, который мы хотим предоставить". Ах, классическое "дело не в тебе, а в нас" - но для программ безопасности ИИ.
В ветке форума один исследователь сказал, что OpenAI сослался на "недавнюю техническую проблему" после того, как они обратились в службу поддержки. В обоих случаях OpenAI попросил исследователей подать заявку заново и пройти проверку ещё раз. Потому что ничто так не говорит "мы вам доверяем", как необходимость снова доказывать свою личность.
Все пять исследователей, с которыми поговорил TechCrunch, живут за пределами США и Европы, что позволяет предположить, что отзывы могут быть региональными. OpenAI указал на твит, в котором говорится, что "доступ ограниченного числа пользователей к Daybreak Blue больше не активен, и им нужно будет повторно пройти проверку, чтобы сохранить доступ". Так что, если вы исследователь безопасности, скажем, в Сингапуре, вам стоит проверить свой доступ.
Daybreak Blue, запущенный 10 августа, является последним уровнем OpenAI для отдельных исследователей, предоставляющим доступ к "передовым моделям общего назначения, включая GPT-5.6 Sol, с защитными мерами, адаптированными для санкционированной оборонительной работы по безопасности". Это "рекомендуемая отправная точка для большинства защитников", поддерживающая обнаружение уязвимостей, проверку безопасного кода, анализ вредоносных программ, реагирование на инциденты и проверку исправлений. Звучит отлично - если у вас есть доступ.
OpenAI также представила более высокий уровень под названием Daybreak Red, который даёт доступ к моделям, специально предназначенным для исследований в области кибербезопасности, позволяя проверенным пользователям проводить "санкционированные исследования уязвимостей, проверку эксплойтов и тестирование безопасности". Потому что почему бы не иметь и красную команду?
В последние месяцы как защитники, так и наступательные исследователи безопасности жаловались на ограничения, введённые OpenAI и Anthropic, говоря, что они мешают законной работе. Теперь, с случайными отзывами, у них есть новая причина для жалоб. По крайней мере, ошибка была не на их стороне - на этот раз.