La sfârșitul lunii trecute, OpenAI a lansat o misiune destul de grandioasă: nimic mai puțin decât apărarea libertății politice individuale într-o eră a mașinilor atotputernice. Echipa „Strategic Futures” a companiei s-a autointitulat, într-un sens, moștenitoarea sarcinii Părinților Fondatori ai Americii: „Muncim în slujba idealurilor de liberă exprimare și libertate individuală care sunt înscrise în umila hârtie a Constituției SUA”, a scris Dean Ball, liderul echipei, într-o nouă postare pe blogul OpenAI. (Postarea se deschide cu un citat din James Madison din Federalist Papers.)

Ball se teme că AI avansat ar putea concentra radical puterea în mâinile celor care îl controlează, înlocuind forța de muncă în moduri care dezumanizează oamenii. Într-un scenariu extrem, guvernele nu ar mai avea nevoie să asculte de cetățenii lor dacă există roboți pentru a duce războaie și software omniscient pentru a conduce birocrația. Ball este interesat să studieze ce noi instituții politice ar putea fi necesare pentru a evita acest destin.

Mulți americani – o majoritate care exprimă neîncredere față de industria AI, indignare față de centrele de date și temeri legate de securitatea locurilor de muncă – par să simtă deja această pierdere a agenției foarte profund. Iar boom-ul AI a generat deja cantități enorme de bogăție doar în câteva companii tech – inclusiv OpenAI însuși. Ca să spunem cel puțin, este paradoxal ca una dintre cele mai influente companii din cea mai puternică industrie a lumii să denunțe concentrarea puterii facilitată de AI. Așa că am contactat-o pe Ball pentru a înțelege mai multe despre neliniștea sa față de industria în care lucrează și despre cum vrea să vadă Statele Unite adaptându-se la AI.

Ball, care studiază politica AI, este un fel de mică celebritate în industrie. Anul trecut, s-a alăturat Casei Albe ca consilier AI și a ajutat la redactarea Planului de Acțiune pentru AI al administrației Trump, o foaie de parcurs politică pentru tehnologie. A plecat în cele din urmă, aparent în termeni buni, din administrație, înainte de a o critica public în timpul disputei sale cu Anthropic la începutul acestui an. Apoi, în iulie, s-a alăturat OpenAI. „Părerea mea este că avem practic AI transformațional în lume acum”, mi-a spus Ball. „Trăiești într-o lume care este transformată. Se întâmplă.”

Această conversație a fost editată pentru lungime și claritate.

Matteo Wong: Scrieți că concentrarea puterii prin AI ar putea răsturna libertățile umane fundamentale înscrise în Constituția SUA. Puteți detalia cum?

Dean Ball: Fundamental, puterea politică este abilitatea delimitată geografic de a exercita monopolul asupra forței și violenței legitime. Până acum, aceasta a necesitat cooperarea unui număr mare de ființe umane. Aveai nevoie de armate, aveai nevoie de oameni în acele armate și aveai nevoie de oameni care să aprovizioneze acele armate. Și aveai nevoie de oameni care să plătească pentru toate acestea prin impozitare. Deci oamenii aveau un loc la masă pentru că, într-un anumit sens, totul este furnizat de ei.

Acum trebuie să presupui că robotica va avansa în curând în același mod în care a avansat inteligența digitală generală. Poate că va dura mai mult decât cred eu. Dar în acel moment, abilitatea de a proiecta violență nu mai necesită oameni. Și este, de asemenea, de conceput că AI ar putea genera venituri suficiente încât guvernul să nu mai aibă nevoie să se bazeze pe impozitarea oamenilor.

Dacă te uiți la politica AI, cred că americanii sunt inteligenți și au senzația că locul lor la masă ar putea deveni mai mic. Au dreptate să se teamă.

Wong: Vorbiți despre concentrarea puterii în guvern, dar AI generativ este o tehnologie dezvoltată în sectorul privat. Există potențialul unei concentrări rare și chiar fără precedent a puterii în industrie. Ce riscuri prezintă aceasta?

Ball: Nu încerci să eviți toată concentrarea puterii, ci să o echilibrezi. Dacă această eră dă naștere unor corporații care au o putere imensă în lume, cred că este bine – atâta timp cât acele organizații sunt guvernate. Cu alte cuvinte, atâta timp cât guvernul care le supraveghează...