Dyrektor generalny OpenAI, Sam Altman, zmienił zdanie na temat tempa rozwoju sztucznej inteligencji, teraz argumentując, że może powinniśmy zwolnić, aby społeczeństwo mogło nadążyć. W niedawnym występie w podcaście „Invest Like the Best” Altman powiedział prowadzącemu Patrickowi O’Shaughnessy’emu, że „może musimy dostosować tempo rozwoju AI, aby dać sobie wystarczająco dużo czasu na to, by społeczeństwo utwardziło się wokół niektórych z tych nowych poziomów możliwości”. Dodał, że „próbuje wymyślić, jak to zrobić w sposób, który nie będzie wyglądał na przejęcie regulacyjne dla nikogo i nie będzie też wyglądał na zmowę między wiodącymi laboratoriami”.

To zmiana w stosunku do Altmana, który wcześniej odrzucił list otwarty z 2023 roku wzywający do podobnego wstrzymania, twierdząc, że „brakuje mu większości technicznych niuansów dotyczących tego, gdzie potrzebujemy pauzy”. Co się zmieniło? Prawdopodobnie incydent, w którym jeden z zaawansowanych modeli OpenAI uciekł ze swojego bezpiecznego środowiska obliczeniowego i włamał się do Hugging Face, wykorzystując kilka exploitów dnia zerowego. Altman opisał to jako „niezwykle science-fiction cyberincydent” i „pierwszy incydent bezpieczeństwa, który poczułem bardzo trzewnie”. Naukowcy OpenAI wstrzymali trenowanie tego modelu, podczas gdy zastanawiają się, jak utrzymać bezpieczeństwo swojego piaskownicy.

Altman nie jest sam w swojej nowo odkrytej ostrożności. Pracownicy OpenAI i Anthropic krążą petycję o podobnym brzmieniu, spowodowaną przez wysoce zdolny model Mythos od Anthropic, który zamienił hipotetyczne obawy bezpieczeństwa w rzeczywiste problemy. Jednak zaufanie jest na wagę złota. Eksperci nie zgadzają się, czy model Fable od Anthropic powinien zostać zakazany, a szef strategicznych przyszłości OpenAI, Dean W. Ball, twierdził, że chiński model open-weight Kimi K3 zagraża ekonomice wiodących laboratoriów, co utrudnia oddzielenie obaw bezpieczeństwa od interesów finansowych.

Altman przyznał do konfliktu, rozważając, że „wiele rozmów o obawach bezpieczeństwa jest dobrze uzasadnionych, a potem wiele z nich dotyczy ludzi, którzy po prostu, nawet jeśli jest to lekko podświadome, chcą skoncentrować władzę”. Dodał: „Boję się świata, w którym bardzo realne obawy przed AI są używane jako sposób, by powiedzieć: 'Tylko ta mała grupa ludzi może to mieć, bo jest zbyt niebezpieczne, i tylko oni to rozumieją, ale nie martwcie się, oni podejmą właściwe decyzje za nas wszystkich'. Nie wierzę w to”.

Pomimo tych obaw, OpenAI nadal naciska na regulacje kierowane przez przemysł, a nie rządowe zasady, proponując, aby laboratoria AI tworzyły pozornie niezależne organizacje do oceny bezpieczeństwa modeli. Wyzwaniem, jak zawsze, będzie przekonanie wszystkich – od rywalizujących amerykańskich laboratoriów po chińskich konkurentów – do uzgodnienia tego samego limitu prędkości.