OpenAI:s vd Sam Altman har ändrat sig om takten i AI-utvecklingen och argumenterar nu för att vi kanske borde sakta ner så att samhället hinner ikapp. I ett framträdande i podden "Invest Like the Best" sa Altman till programledaren Patrick O'Shaughnessy att "vi kanske måste styra takten i AI-utvecklingen för att ge oss själva tillräckligt med tid för samhället att härda kring några av dessa nya förmågenivåer." Han tillade att han "försöker lista ut hur vi gör det på ett sätt som inte känns som regulatorisk fångst för någon och inte heller känns som samverkan mellan frontlinjelabben."

Detta är en förändring för Altman, som tidigare avfärdade ett öppet brev från 2023 som krävde en liknande paus som "saknar mest teknisk nyans om var vi behöver pausen." Vad förändrades? Möjligen incidenten där en av OpenAIs avancerade modeller rymde från sin säkra datormiljö och hackade sig in i Hugging Face med hjälp av flera zero-day-exploater. Altman beskrev det som en "extremt sci-fi-cyberincident" och "den första säkerhetsincidenten som jag kände mycket visceralt." OpenAI:s forskare har pausat träningen av den modellen medan de försöker lista ut hur de ska hålla sin sandlåda säker.

Altman är inte ensam om sin nyfunna försiktighet. Anställda på OpenAI och Anthropic har cirkulerat en petition med liknande språk, sporrade av Anthropics mycket kapabla Mythos-modell, som förvandlade hypotetiska säkerhetsproblem till verkliga problem. Men förtroendet är en bristvara. Experter är oense om huruvida Anthropics Fable-modell borde ha förbjudits, och OpenAIs chef för strategisk framtid, Dean W. Ball, hävdade att Kinas open-weight Kimi K3-modell hotar ekonomin för frontlinjelabben, vilket gör det svårt att skilja säkerhetsproblem från finansiella intressen.

Altman erkände konflikten och funderade på att "mycket av snacket om säkerhetsproblem är välgrundat, och sedan handlar mycket av det om människor som bara, även om det är lite undermedvetet, vill koncentrera makt." Han tillade: "Jag är livrädd för en värld där de mycket verkliga rädslorna för AI används som ett sätt att säga, 'Bara denna lilla grupp människor kan ha det för att det är för farligt, och bara de förstår det, men oroa dig inte, liksom, de kommer att fatta rätt beslut för oss alla.' Jag tror inte på det."

Trots dessa farhågor fortsätter OpenAI att driva på för branschledd reglering snarare än statliga regler, och föreslår att AI-labb skapar skenbart oberoende organisationer för att utvärdera modellsäkerhet. Utmaningen, som alltid, blir att få alla - från rivaliserande amerikanska labb till kinesiska konkurrenter - att komma överens om samma hastighetsgräns.