Alla fine del mese scorso, OpenAI ha lanciato una missione piuttosto ambiziosa: niente di meno che difendere la libertà politica individuale in un'era di macchine onnipotenti. Il team "Strategic Futures" dell'azienda si è presentato, in un certo senso, come erede del compito dei Padri Fondatori americani: "Lavoriamo al servizio degli ideali di libertà di espressione e libertà individuale sanciti nel modesto foglio della Costituzione degli Stati Uniti," ha scritto Dean Ball, il leader del team, in un nuovo post sul blog di OpenAI. (Il post si apre con una citazione di James Madison dai Federalist Papers.)

Ball teme che l'IA avanzata possa concentrare radicalmente il potere nelle mani di chi la controlla, spostando il lavoro in modi che privano gli esseri umani del loro potere. In uno scenario estremo, i governi non avrebbero bisogno di ascoltare i propri cittadini se ci sono robot per fare le guerre e software onniscienti per gestire la burocrazia. Ball è interessato a studiare quali nuove istituzioni politiche potrebbero essere necessarie per evitare questo destino.

Molti americani - la maggioranza dei quali esprime sfiducia verso l'industria dell'IA, indignazione per i data center e timori per la sicurezza del proprio lavoro - sembrano già sentire profondamente questa perdita di agency. E il boom dell'IA ha già generato enormi quantità di ricchezza in una manciata di aziende tecnologiche - inclusa la stessa OpenAI. Per usare un eufemismo, è paradossale che una delle aziende più influenti dell'industria più potente del mondo denunci la concentrazione di potere abilitata dall'IA. Così ho contattato Ball per capire meglio il suo disagio verso l'industria in cui lavora, e come vorrebbe che gli Stati Uniti si adattassero all'IA.

Ball, che studia le politiche sull'IA, è una sorta di piccola celebrità nel settore. L'anno scorso è entrato alla Casa Bianca come consigliere per l'IA e ha contribuito a scrivere il Piano d'Azione per l'IA dell'amministrazione Trump, una roadmap politica per la tecnologia. Alla fine se n'è andato, apparentemente in buoni rapporti, dall'amministrazione prima di criticarla pubblicamente durante la sua disputa con Anthropic all'inizio di quest'anno. Poi, a luglio, è entrato in OpenAI. "La mia opinione è che fondamentalmente abbiamo già un'IA trasformativa nel mondo," mi ha detto Ball. "Stai vivendo in un mondo che si sta trasformando. Sta accadendo."

Questa conversazione è stata modificata per lunghezza e chiarezza.

Matteo Wong: Scrive che la concentrazione di potere attraverso l'IA potrebbe sovvertire le libertà umane fondamentali sancite dalla Costituzione degli Stati Uniti. Può spiegare come?

Dean Ball: Fondamentalmente, il potere politico è la capacità geograficamente limitata di esercitare il monopolio della forza e della violenza legittima. Farlo ha finora richiesto la cooperazione di un gran numero di esseri umani. Servivano eserciti, servivano persone in quegli eserciti, e servivano persone per mantenere quegli eserciti nutriti e riforniti. E servivano persone per pagare tutto questo attraverso le tasse. Quindi le persone avevano un posto al tavolo perché, in un certo senso, tutto è fornito da loro.

Ora bisogna supporre che la robotica avanzerà presto nello stesso modo in cui è avanzata l'intelligenza digitale generale. Forse ci vorrà più tempo di quanto penso. Ma a quel punto, la capacità di proiettare violenza non richiederà più persone. Ed è anche concepibile che l'IA possa generare entrate sufficienti per cui il governo non avrebbe bisogno di fare affidamento sulla tassazione delle persone.

Se si guarda alla politica dell'IA, penso che gli americani siano intelligenti e abbiano la sensazione che il loro posto al tavolo si stia riducendo. Hanno ragione ad avere paura.

Wong: Sta parlando di concentrazione di potere nel governo, ma l'IA generativa è una tecnologia sviluppata nel settore privato. C'è il potenziale per una concentrazione di potere rara e persino senza precedenti nell'industria. Quali rischi comporta?

Ball: Non si cerca di evitare ogni concentrazione di potere, ma di bilanciarla. Se quest'era darà origine a aziende che hanno un'enorme quantità di potere nel mondo, penso che sia positivo - purché quelle organizzazioni siano governate. In altre parole, purché il governo che le supervisiona