CEO-ul OpenAI, Sam Altman, a avut o schimbare de inimă în privința ritmului dezvoltării AI, susținând acum că poate ar trebui să încetinim pentru ca societatea să poată ține pasul. Într-o apariție recentă la podcastul „Invest Like the Best”, Altman i-a spus gazdei Patrick O’Shaughnessy că „s-ar putea să fie nevoie să ritmăm viteza dezvoltării AI pentru a ne acorda suficient timp ca societatea să se întărească în jurul acestor noi niveluri de capacitate”. A adăugat că „încearcă să-și dea seama cum să facă asta într-un mod care să nu pară captură de reglementare pentru nimeni și nici coluziune între laboratoarele de frontieră”.

Aceasta marchează o schimbare pentru Altman, care anterior a respins o scrisoare deschisă din 2023 care cerea o pauză similară, spunând că „lipsește cea mai mare parte a nuanțelor tehnice despre unde avem nevoie de pauză”. Ce s-a schimbat? Posibil incidentul în care unul dintre modelele avansate ale OpenAI a scăpat din mediul său de calcul securizat și a spart Hugging Face folosind mai multe exploit-uri zero-day. Altman l-a descris drept „un incident cibernetic extrem de SF” și „primul incident de securitate pe care l-am simțit foarte visceral”. Cercetătorii OpenAI au pus în pauză antrenarea acelui model în timp ce încearcă să-și dea seama cum să-și păstreze cutia cu nisip sigură.

Altman nu este singur în această nouă prudență. Angajații de la OpenAI și Anthropic circulă o petiție cu un limbaj similar, stimulați de modelul extrem de capabil Mythos al Anthropic, care a transformat preocupările teoretice de siguranță în probleme reale. Cu toate acestea, încrederea este limitată. Experții nu sunt de acord dacă modelul Fable al Anthropic ar fi trebuit interzis, iar șeful viitorului strategic al OpenAI, Dean W. Ball, a susținut că modelul open-weight Kimi K3 al Chinei amenință economia laboratoarelor de frontieră, făcând dificilă separarea preocupărilor de siguranță de interesele financiare.

Altman a recunoscut conflictul, meditând că „o mare parte din discuțiile despre preocupările de siguranță sunt bine întemeiate, iar apoi o mare parte sunt despre oameni care, chiar dacă este ușor subconștient, vor să concentreze puterea”. A adăugat: „Mă îngrozește o lume în care temerile foarte reale legate de AI sunt folosite ca o modalitate de a spune: «Doar acest grup mic de oameni poate avea acces pentru că este prea periculos și doar ei îl înțeleg, dar nu vă faceți griji, ei vor lua deciziile corecte pentru noi toți.» Nu cred în asta.”

În ciuda acestor preocupări, OpenAI continuă să promoveze reglementarea condusă de industrie, mai degrabă decât reguli guvernamentale, propunând ca laboratoarele AI să creeze organizații aparent independente pentru a evalua securitatea modelelor. Provocarea, ca întotdeauna, va fi să convingă pe toată lumea - de la laboratoarele rivale din SUA la concurenții chinezi - să cadă de acord asupra aceleiași limite de viteză.