La patru zile după ce un cercetător și-a dat public demisia de la Anthropic – avertizând că marile firme de IA nu „acționează responsabil" și că produsele lor ar putea fi pe cale să „ne omoare pe toți" – CEO-ul companiei, Dario Amodei, a spus, în esență: da, corect. Într-un eseu de 3.800 de cuvinte publicat astăzi pe site-ul său personal și distribuit pe rețelele sociale, Amodei a scris: „Trebuie să încetinim ritmul în care îmbunătățim capabilitățile modelelor de IA."

Până acum, ne-am obișnuit cu toții ca directorii din IA să emită profeții sumbre despre exact produsele pe care se grăbesc să le lanseze. Ce face eseul lui Amodei notabil este urgența și momentul ales. Îngrijorările legate de agenții IA scăpați de sub control au trecut de la ipotetic la alarmant de real după ce OpenAI, Anthropic și alții au raportat incidente tulburătoare în ultimele săptămâni. Întrebarea este dacă acest avertisment va avea mai mult impact decât precedentele – adică vreunul. Există motive să credem că s-ar putea.

Amodei a prezentat un plan în trei pași pentru ceea ce numește „tempo-ul frontierei" – moderarea vitezei cu care se îmbunătățesc modelele de top de IA pentru a prioritiza siguranța. El a argumentat că acest lucru ar reduce șansele ca lucrurile să o ia razna, cum ar fi atunci când un model OpenAI a generat roiuri de agenți IA care au colaborat în secret pentru a sparge sistemele altei companii și a trișa la un test intern. El a spus că firmele de top din IA, inclusiv a sa, sunt blocate într-o „cursă spre fund" periculoasă care ar putea duce la atacuri cibernetice mai grave, cum ar fi preluarea completă a internetului. În schimb, el a cerut o „cursă spre vârf" – o expresie pe care președintele Obama a folosit-o cândva pentru politica educațională – în care firmele concurează pentru a construi cele mai sigure modele, nu cele mai puternice. „Măsurile pe care le propun pentru a avansa frontiera într-un ritm sigur nu vor fi ușoare", a scris Amodei. „Dar cred că datorăm umanității să încercăm."

Primul pas: laboratoarele de IA se angajează să aducă monitori externi pentru a supraveghea pericolele. Anthropic, a spus el, se va angaja imediat și speră că rivalii vor urma. Al doilea: firmele de IA din țările democratice convin – posibil cu sprijin guvernamental – asupra anumitor limite și standarde de siguranță. Al treilea și cel mai greu: „coordonarea globală", ceea ce înseamnă în mare parte să o convingi pe China. Lumea tech este divizată. Unii susțin că cooperarea este imposibilă într-o competiție cu sumă zero; alții cred că țările ar putea găsi un teren comun dacă acceptă că alternativa este distrugerea reciprocă.

Apelurile publice la prudență din partea luminilor IA sunt o tradiție aproape la fel de veche ca ChatGPT. Primul mare apel a venit în martie 2023, când mii de personalități din industrie și mediul academic au semnat o scrisoare a Future of Life Institute care cerea o pauză de șase luni la „experimentele gigantice de IA". Amodei a spus astăzi că a crezut că ideea avea „puțin sens" la acea vreme, pentru că GPT-4 nu era suficient de puternic pentru a fi atât de înfricoșător. „Astăzi, însă, tabloul este complet diferit", a scris el. Între timp, publicul a început să fie atent. Sondajele arată că americanii devin mai îngrijorați și mai furioși pe IA necontrolată, alimentând o mișcare populistă remarcabil de bipartizană împotriva tehnologiei.

Unii vor respinge eseul lui Amodei ca pe ultima poză solemnă a unui director cu interes direct ca oamenii să creadă că tehnologia sa este fără precedent. (IPO-ul Anthropic, planificat pentru luna viitoare, ar putea genera în jur de 100 de miliarde de dolari în investiții, făcând compania să valoreze 2 trilioane de dolari, potrivit The Wall Street Journal.) Scepticii IA și acceleraționiștii deopotrivă tind să ridiculizeze astfel de avertismente ca „doomerism". Scepticii văd un pitch de marketing elaborat: Oh, nu, produsele noastre devin prea puternice! Acceleraționiștii îl resping ca pe o stratagemă cinică a incumbenților de a păzi tehnologia.

Dar briciul lui Occam sugerează că Amodei este mai mult sau mai puțin sincer. Aproape oricine cu un loc de muncă și o conștiință se poate identifica cu sentimentul că ar trebui să încetinești și să lucrezi mai atent – dar nu-ți permiți, pentru că un concurent te va bate. Simt o versiune (recunosc, mai puțin apocaliptică) a asta când scriu o știre de ultimă oră. El