W obliczu zbliżającego się IPO, Anthropic depczącego po piętach i roju chińskich oraz open-weight rywali gryzących po kostkach, OpenAI ma wszelkie powody, by wcisnąć pedał gazu do dechy. Zamiast tego firma ogłosiła we wtorek, że spowalnia niektóre prace nad AI, aby zaostrzyć bezpieczeństwo. Konkretnie, wstrzymuje trening uczenia przez wzmacnianie na swoich 'najnowszych modelach przeznaczonych do wdrożenia' na dwa tygodnie i opóźnia 'największy planowany frontier RL run'. To bardzo publiczny test idei, którą orędownicy bezpieczeństwa promują od lat: że firmy powinny być gotowe wycofać się z wyścigu, gdy ich zabezpieczenia nie nadążają. Ale gdy wyścig wokół nich trwa nadal, czy spowolnienie faktycznie cokolwiek zdziała?

Nie udawajmy, że OpenAI stoi w miejscu. Firma nazywa to 'tempowaniem', mglistym terminem, który stał się branżowym żargonem. Spowolnienie jest wąsko zakrojone: dotyczy tylko modeli przeznaczonych do wdrożenia, podczas gdy OpenAI wzmacnia bezpieczeństwo przed przeprowadzeniem testów, w których modele mogłyby uciec i zhakować prawdziwe cele. Nie musi to oznaczać znaczącego spowolnienia szerszego rozwoju.

Jest dobry powód tego skupienia. W zeszłym miesiącu modele OpenAI wyrwały się z rzekomo bezpiecznego środowiska testowego i zhakowały platformę deweloperską Hugging Face - bez wiedzy OpenAI. Ten incydent skłonił szerszy przegląd branży, ujawniając podobne epizody z modelami OpenAI, Anthropic i Meta. W miarę jak prawodawcy coraz bardziej przyglądają się AI, OpenAI ma wszelkie powody, by uniknąć powtórki.

Z zewnątrz trudno ocenić, jak szczera jest ta pauza, zwłaszcza biorąc pod uwagę ostatnie odejścia z zespołu ds. bezpieczeństwa i rozwiązanie zespołu ds. gotowości. OpenAI nie odpowiedziało na prośbę The Verge o komentarz. Ale eksperci twierdzą, że są powody, by traktować spowolnienie poważnie. Marius Hobbhahn, dyrektor generalny Apollo Research, zauważa, że w intensywnym wyścigu AI 'każdy ma motywację, by pracować w zawrotnym tempie. Dobrowolne spowolnienie pogarsza twoją pozycję w wyścigu, więc nie jest to coś, co laboratorium robi lekko'.

Decyzja jest zgodna z własnymi ramami gotowości OpenAI, a także ramami bezpieczeństwa innych firm, mówi Alan Chan, pracownik naukowy w GovAI. Zasada: kontynuuj rozwój tylko wtedy, gdy środki łagodzące czynią ryzyko akceptowalnym. OpenAI planuje przegląd i 'ewolucję' ram, z których wiele pochodzi z 2023 roku, aby uwzględnić postępy modeli.

Czy nowe zabezpieczenia faktycznie uczynią systemy bezpieczniejszymi? Adam Gleave, dyrektor generalny FAR.AI, mówi: 'To dobre kroki, które, jeśli dobrze wdrożone, prawdopodobnie wystarczą, aby zapobiec wyrządzeniu szkód przez obecną generację agentów. Kluczowe pytanie brzmi, jak OpenAI dotrzyma kroku, gdy możliwości wzrosną'.

Ale jest większy problem: co jeśli zabezpieczenia znów zawiodą? Tym razem nic nie zmuszało OpenAI do zatrzymania się, dlatego jego gotowość była znacząca. Ale to też oznacza, że nie ma gwarancji, że OpenAI - lub jakakolwiek inna firma - podejmie tę samą decyzję następnym razem.

Poleganie na tym, że firmy będą się same pilnować, jest niepewne, zwłaszcza gdy zachęty popychają je do działania. Nick Moës, dyrektor wykonawczy The Future Society, nazywa samokontrolę strukturalnym problemem u podstaw bezpieczeństwa AI. Argumentuje, że rządy powinny mieć możliwość decydowania, czy firma wstrzymuje rozwój niebezpiecznej technologii. 'Tak działa większość branż' - mówi, wskazując na leki, budownictwo, samoloty, a nawet restauracje jako mające silniejszy nadzór niż AI.

Środki dobrowolne ryzykują również zbieżność do najniższego wspólnego mianownika. Jeśli spowolnienie kosztuje, firmy przyjmą tylko to, co zaakceptują rywale. W miarę zaostrzania się wyścigu, jeśli OpenAI zwolni, a konkurenci nie, to 'zostanie po prostu zastąpione przez Anthropic' - argumentuje Moës. 'Aby pauza była trwała, musi być ogólnobranżowa'.

Zrównowa