Дэвид Робинсон, который раньше писал отчёты по безопасности, сопровождавшие каждый крупный релиз модели в OpenAI, уволился на этой неделе и предал огласке свои опасения в колонке для The Atlantic. Да, это очередной такой случай. Нет, вы не ошибаетесь, если чувствуете некоторый цинизм по отношению к людям, предупреждающим нас о том самом, что они помогали создавать. Но предупреждения, к сожалению, всё ещё стоят прочтения.

Аргумент Робинсона в том, что проблема не в отсутствующем правиле или слабом регулировании то тут, то там — проблема в самой культуре. Кремниевая долина, говорит он, работает на «чрезвычайной уверенности» и «вечных спринтах», выдавая всё более крупные и лучшие модели с «безграничным оптимизмом», игнорируя или недооценивая потенциальные проблемы, которые эти модели с собой несут.

Его предложенное решение не отличается тонкостью. ИИ-компаниям, утверждает он, нужны смирение и готовность смотреть за пределы замкнутого мира технологий, где всё делается быстро и ломается. В частности, он говорит, что передовые лаборатории должны работать не столько как стартапы, сколько как атомные электростанции или загруженные аэропорты — с многоуровневым резервированием и тщательным, требующим времени планированием, чтобы случайная и неизбежная человеческая ошибка не открыла дверь к катастрофе.

Робинсон — последний в удлиняющейся веренице исследователей и работников по безопасности, уходящих из видных ИИ-фирм. Джейкоб Коксон, похоже, начал этот исход, уволившись из Anthropic и затем публично заявив, что ИИ «может убить нас всех к концу десятилетия». За ним последовали Роберт О'Каллахан, Билал Чугтай и Джош Энгельс из Google DeepMind, а также Джо Бентон из Anthropic.