OpenAI, по сообщениям, распустила свою команду по подготовке, группу, на которую была возложена невероятно важная задача оценки того, не могут ли её модели, скажем, выйти из-под контроля и взломать другую компанию. Согласно Financial Times, команда была расформирована в конце прошлого месяца, а её обязанности были распределены и разбросаны по существующим командам, каждая из которых теперь занимается конкретными областями, такими как био и кибер. Потому что ничто так не говорит о «безопасность прежде всего», как раздробление надзора на бюрократическую игру в «убей крота».

Это лишь последняя глава в продолжающейся саге OpenAI о демонтаже своего аппарата безопасности, поскольку компания стремительно движется к тому, что обещает быть очень прибыльным первичным размещением акций. За эти годы компания тихо расформировала свои команды по готовности к AGI и суперсогласованию, и исход специалистов по безопасности продолжается: руководитель по этике Хлоя Бакалар, главный футуролог Джош Ачиам и глава службы безопасности Йоханнес Хайдеке недавно сами указали себе на дверь. Ян Лейке, ушедший из OpenAI в 2024 году, сказал FT, что компания ставит «блестящие продукты» выше безопасности. Блестящие, действительно — потому что ничто так не говорит об «ответственном ИИ», как робот, который может написать приличное электронное письмо, но также может случайно развязать кибервойну.

Дилан Скандинаро, переманенный из Anthropic в феврале на должность главы команды по подготовке, теперь переключится на размышления о последствиях «рекурсивного самосовершенствующегося» ИИ. Так что, знаете, по крайней мере кто-то думает о робоапокалипсисе, даже если это всего лишь один парень в углу с белой доской.