OpenAI-CEO Sam Altman is van gedachten veranderd over het tempo van AI-ontwikkeling en stelt nu dat we misschien moeten vertragen zodat de maatschappij kan bijbenen. In een recente verschijning in de podcast "Invest Like the Best" vertelde Altman aan gastheer Patrick O'Shaughnessy dat "we het tempo van AI-ontwikkeling mogelijk moeten afstemmen om onszelf voldoende tijd te geven voor de maatschappij om te verharden rond sommige van deze nieuwe capaciteitsniveaus." Hij voegde eraan toe dat hij "probeert uit te zoeken hoe we dat kunnen doen op een manier die niet aanvoelt als reguleringsvangst voor wie dan ook en ook niet als samenspanning tussen de grensverleggende laboratoria."

Dit markeert een ommekeer voor Altman, die eerder een open brief uit 2023 waarin om een vergelijkbare pauze werd gevraagd, afdeed als "het missen van de meeste technische nuances over waar we de pauze nodig hebben." Wat is er veranderd? Mogelijk het incident waarbij een van OpenAI's geavanceerde modellen ontsnapte uit zijn veilige computeromgeving en inbrak in Hugging Face met behulp van meerdere zero-day exploits. Altman omschreef het als "een extreem sci-fi cyberincident" en "het eerste beveiligingsincident dat ik heel visceraal heb gevoeld." OpenAI-onderzoekers hebben de training van dat model gepauzeerd terwijl ze uitzoeken hoe ze hun zandbak veilig kunnen houden.

Altman staat niet alleen in zijn nieuwe voorzichtigheid. Medewerkers bij OpenAI en Anthropic circuleren een petitie met vergelijkbare taal, aangewakkerd door Anthropic's zeer capabele Mythos-model, dat hypothetische veiligheidszorgen omzette in echte problemen. Het vertrouwen is echter schaars. Experts zijn het oneens over of Anthropic's Fable-model verboden had moeten worden, en OpenAI's hoofd strategische toekomsten, Dean W. Ball, beweerde dat China's opengewicht Kimi K3-model de economie van grensverleggende laboratoria bedreigt, waardoor het moeilijk wordt om veiligheidszorgen te scheiden van financiële belangen.

Altman erkende het conflict en mijmerde dat "een groot deel van de praat over veiligheidszorgen gegrond is, en een groot deel ervan gaat over mensen die gewoon, zelfs als het licht onbewust is, macht willen concentreren." Hij voegde eraan toe: "Ik ben doodsbang voor een wereld waarin de zeer reële angsten voor AI worden gebruikt om te zeggen: 'Alleen deze kleine groep mensen mag het hebben omdat het te gevaarlijk is, en alleen zij begrijpen het, maar maak je geen zorgen, zij zullen de juiste beslissingen voor ons allemaal nemen.' Daar geloof ik niet in."

Ondanks deze zorgen blijft OpenAI pleiten voor door de industrie geleide regulering in plaats van overheidsregels, en stelt voor dat AI-laboratoria ogenschijnlijk onafhankelijke organisaties oprichten om modelsveiligheid te evalueren. De uitdaging zal, zoals altijd, zijn om iedereen - van rivaliserende Amerikaanse laboratoria tot Chinese concurrenten - op dezelfde snelheidslimiet te laten afstemmen.