Cu un IPO la orizont, Anthropic suflându-i în ceafă și un roi de rivali chinezi și cu sursă deschisă călcându-i pe urme, OpenAI are toate motivele să apese pedala de accelerație. În schimb, compania a anunțat marți că încetinește o parte din dezvoltarea AI pentru a întări securitatea. Mai exact, întrerupe antrenamentul cu învățare prin consolidare pe 'cele mai recente modele destinate implementării' timp de două săptămâni și amână 'cea mai mare rulare planificată de frontieră RL'. Acesta este un test foarte public al unei idei pe care susținătorii siguranței o promovează de ani de zile: că companiile ar trebui să fie dispuse să se retragă din cursă atunci când măsurile lor de siguranță nu pot ține pasul. Dar pe măsură ce cursa continuă în jurul lor, va realiza încetinirea ceva de fapt?
Să nu ne prefacem că OpenAI stă pe loc. Compania o numește 'ritmare', un termen vag care a devenit jargon industrial. Încetinirea este strict limitată: acoperă doar modelele destinate implementării, în timp ce OpenAI întărește securitatea înainte de a rula teste în care modelele ar putea scăpa și hack-ui ținte reale. Nu înseamnă neapărat o încetinire semnificativă a dezvoltării mai largi.
Există un motiv întemeiat pentru această concentrare. Luna trecută, modelele OpenAI au evadat dintr-un mediu de testare presupus securizat și au hack-uit platforma de dezvoltatori Hugging Face - fără ca OpenAI să observe măcar. Incidentul a declanșat o revizuire mai largă a industriei, descoperind episoade similare cu modele de la OpenAI, Anthropic și Meta. Cu legiuitorii care examinează din ce în ce mai mult AI, OpenAI are toate motivele să evite o repetare.
Din exterior, este greu de evaluat cât de sinceră este această pauză, mai ales având în vedere plecările recente din echipa de siguranță și desființarea echipei de pregătire. OpenAI nu a răspuns solicitării de comentarii a The Verge. Dar experții spun că există motive să luăm în serios încetinirea. Marius Hobbhahn, CEO al Apollo Research, notează că în cursa intensă de AI, 'toată lumea are un stimulent să lucreze într-un ritm amețitor. Încetinirea voluntară îți înrăutățește poziția în cursă, deci nu este ceva ce un laborator ar face ușor.'
Decizia se aliniază cu propriul Cadru de Pregătire al OpenAI, precum și cu cadrele de siguranță ale altor companii, spune Alan Chan, cercetător la GovAI. Principiul: continuă dezvoltarea doar când măsurile de atenuare fac riscul acceptabil. OpenAI plănuiește să revizuiască și să 'evolueze' cadrul, mult din el datând din 2023, pentru a ține cont de progresele modelelor.
Noile măsuri de siguranță vor face sistemele cu adevărat mai sigure? Adam Gleave, CEO al FAR.AI, spune: 'Aceștia sunt pași buni care, implementați corect, sunt probabil suficienți pentru a preveni ca generația actuală de agenți să provoace rău. Întrebarea cheie este cum va ține OpenAI pasul pe măsură ce capacitățile cresc.'
Dar există o problemă mai mare: dacă măsurile de siguranță eșuează din nou, ce atunci? Nimic nu l-a obligat pe OpenAI să se oprească de data aceasta, motiv pentru care disponibilitatea sa a fost semnificativă. Dar înseamnă și că nu există nicio garanție că OpenAI - sau orice altă companie - va face aceeași alegere data viitoare.
Să te bazezi pe companii să se auto-reglementeze este precar, mai ales când stimulentele le împing să continue. Nick Moës, director executiv al The Future Society, numește auto-reglementarea problema structurală din inima siguranței AI. El susține că guvernele ar trebui să poată decide dacă o companie întrerupe dezvoltarea unei tehnologii nesigure. 'Așa funcționează majoritatea industriilor', spune el, subliniind că medicamentele, construcțiile, avioanele și chiar restaurantele au o supraveghere mai puternică decât AI.
Măsurile voluntare riscă, de asemenea, să convergă către cel mai mic numitor comun. Dacă încetinirea te costă, companiile vor adopta doar ceea ce acceptă rivalii. Pe măsură ce cursa se strânge, dacă OpenAI încetinește în timp ce concurenții nu o fac, 'va fi pur și simplu înlocuit de Anthropic', susține Moës. 'Pentru ca pauza să fie sustenabilă, trebuie extinsă la nivelul întregii industrii.'
Siguranța sustenabilă are nevoie de ceva mai puternic decât acțiunea voluntară. Supravegherea guvernamentală ar putea ajuta, la fel ca și verificarea independentă. Chan notează că asigurarea că companiile implementează efectiv măsuri de siguranță va fi crucială pe măsură ce monitorizarea AI devine mai ex