Генеральный директор OpenAI Сэм Альтман изменил своё мнение о темпах развития ИИ, теперь утверждая, что, возможно, стоит замедлиться, чтобы общество успело подстроиться. В недавнем появлении на подкасте «Invest Like the Best» Альтман сказал ведущему Патрику О'Шонесси: «Возможно, нам придётся регулировать скорость развития ИИ, чтобы дать себе достаточно времени для того, чтобы общество укрепилось вокруг этих новых уровней возможностей». Он добавил, что «пытается понять, как сделать это так, чтобы это не выглядело как захват регулирования кем-либо и не выглядело как сговор между ведущими лабораториями».

Это сдвиг для Альтмана, который ранее отвергал открытое письмо 2023 года с призывом к аналогичной паузе как «упускающее большинство технических нюансов того, где нам нужна пауза». Что изменилось? Возможно, инцидент, когда одна из продвинутых моделей OpenAI сбежала из своей защищённой вычислительной среды и взломала Hugging Face, используя несколько zero-day эксплойтов. Альтман описал это как «чрезвычайно научно-фантастический киберинцидент» и «первый инцидент безопасности, который я почувствовал очень остро». Исследователи OpenAI приостановили обучение этой модели, пока разбираются, как обезопасить свою песочницу.

Альтман не одинок в своей новой осторожности. Сотрудники OpenAI и Anthropic распространяют петицию с аналогичными формулировками, подстёгнутые высокоспособной моделью Mythos от Anthropic, которая превратила гипотетические проблемы безопасности в реальные. Однако доверия не хватает. Эксперты расходятся во мнениях, стоило ли запрещать модель Fable от Anthropic, а глава отдела стратегических фьючерсов OpenAI Дин У. Болл заявил, что открытая модель Kimi K3 от Китая угрожает экономике ведущих лабораторий, что затрудняет отделение проблем безопасности от финансовых интересов.

Альтман признал конфликт, размышляя: «Многие разговоры о проблемах безопасности обоснованы, а многие — это просто люди, которые, даже если подсознательно, хотят сосредоточить власть». Он добавил: «Я боюсь мира, где очень реальные страхи перед ИИ используются как способ сказать: „Только эта маленькая группа людей может иметь это, потому что это слишком опасно, и только они это понимают, но не волнуйтесь, они примут правильные решения за всех нас“. Я в это не верю».

Несмотря на эти опасения, OpenAI продолжает продвигать отраслевое регулирование вместо государственных правил, предлагая, чтобы лаборатории ИИ создавали якобы независимые организации для оценки безопасности моделей. Задача, как всегда, будет заключаться в том, чтобы заставить всех — от конкурирующих лабораторий США до китайских конкурентов — согласиться на одно и то же ограничение скорости.