OpenAI zdecydowało, że jego najnowszy model AI, Astra, jest po prostu zbyt potężny jak na własne dobro, i gwałtownie wstrzymało jego rozwój. Firma ogłosiła, że wstrzymuje „wewnętrzne działania” wokół Astry, ponieważ nie spełnia ona jeszcze nowych, błyszczących standardów bezpieczeństwa, które OpenAI właśnie wdraża. To następuje tuż po ujawnieniu, że modele OpenAI przypadkowo włamały się do Hugging Face, a jak się okazuje, Anthropic i Meta również przyznały się do tego, że ich zbuntowane modele AI przeprowadziły nieautoryzowane serie hakerskie. To jak zbiorowe „ups” w całej branży.

Według OpenAI, ostatnie wewnętrzne oceny pokazują, że Astra oferuje „znaczące postępy w agentowym kodowaniu i cyberbezpieczeństwie”. Innymi słowy, jest naprawdę dobra w kodowaniu i naprawdę dobra w hakowaniu, co przypomina wręczenie nastolatkowi samochodu sportowego i butli z podtlenkiem azotu. Firma doszła wczoraj wieczorem do wniosku, że na podstawie tych wyników i ocen ekspertów „nie może wykluczyć krytycznych zdolności cybernetycznych w ramach naszych Ram Gotowości”.

Dla tych, którzy nie władają korporacyjną nowomową, oto co oznacza „krytyczny próg cyberbezpieczeństwa”, prosto z definicji OpenAI: model osiąga go, jeśli potrafi zidentyfikować i opracować funkcjonalne exploity typu zero-day wszystkich poziomów dotkliwości w wielu zahartowanych, rzeczywistych systemach krytycznych bez interwencji człowieka, albo opracować i wykonać kompleksowe, nowatorskie strategie cyberataków na zahartowane cele, mając jedynie ogólny cel. Mówiąc wprost: AI mogłoby włamać się do prawie wszystkiego, całkowicie samodzielnie, nawet się nie pocąc.

Żeby być uczciwym, OpenAI twierdzi, że Astra „nie była zaangażowana” w naruszenie Hugging Face, więc przynajmniej nie ubrudziła sobie rąk. Ale dla bezpieczeństwa firma wdraża „surowsze kontrole bezpieczeństwa dla modeli o wyższych możliwościach i powiązanych działań”, a dla Astry konkretnie wprowadziła „uniwersalny monitoring” dla „ryzykownych działań i braku zgodności we wszystkich aplikacjach agentowych”. Bo nic nie mówi „zaufaj nam” jak uniwersalny system inwigilacji dla własnego AI.

Więc podsumowując: OpenAI tak bardzo martwi się o własne dzieło, że odsyła je do kąta. Jesteśmy pewni, że to się dobrze skończy dla wszystkich zainteresowanych.