I slutet av förra månaden lanserade OpenAI ett ganska storslaget uppdrag: inget mindre än att försvara individuell politisk frihet i en tid av allsmäktiga maskiner. Företagets "Strategic Futures"-team har på sätt och vis positionerat sig som arvtagare till USA:s grundlagsfäder: "Vi arbetar i tjänst för idealen om yttrandefrihet och individuell frihet som är inskrivna i det ödmjuka pergamentet i USA:s konstitution," skrev Dean Ball, teamets ledare, i ett nytt inlägg på OpenAIs blogg. (Inlägget inleds med ett citat från James Madison i The Federalist Papers.)

Ball oroar sig för att avancerad AI radikalt skulle kunna koncentrera makten i händerna på dem som kontrollerar den, och förskjuta arbete på sätt som berövar människor makt. I ett extremt scenario skulle regeringar inte behöva lyssna på sina medborgare om det finns robotar som för krig och allvetande mjukvara som sköter byråkratin. Ball är intresserad av att studera vilka nya politiska institutioner som kan behövas för att undvika detta öde.

Många amerikaner – en majoritet av vilka uttrycker misstro mot AI-industrin, ilska över datacenter och rädsla för sin anställningstrygghet – verkar redan känna av denna förlust av inflytande mycket djupt. Och AI-boomen har redan genererat enorma mängder välstånd i bara en handfull teknikföretag – inklusive OpenAI självt. Milt uttryckt är det paradoxalt att ett av de mest inflytelserika företagen i världens mäktigaste industri fördömer den AI-möjliggjorda maktkoncentrationen. Så jag kontaktade Ball för att förstå mer om hans oro över branschen han arbetar i, och hur han vill att USA ska anpassa sig till AI.

Ball, som studerar AI-politik, är något av en mindre kändis i branschen. Förra året anslöt han sig till Vita huset som AI-rådgivare och hjälpte till att skriva Trump-administrationens AI-handlingsplan, en politisk färdplan för tekniken. Han lämnade så småningom administrationen, tydligen på goda villkor, innan han offentligt kritiserade den under dess tvist med Anthropic tidigare i år. Sedan, i juli, gick han till OpenAI. "Min uppfattning är att vi i princip har transformativ AI i världen nu," sa Ball till mig. "Du lever i en värld som håller på att förändras. Det händer."

Detta samtal har redigerats för längd och tydlighet.

Matteo Wong: Du skriver att maktkoncentration genom AI skulle kunna rubba de grundläggande mänskliga friheterna som är inskrivna i USA:s konstitution. Kan du utveckla hur?

Dean Ball: I grunden är politisk makt den geografiskt avgränsade förmågan att utöva monopol på legitimt våld. Att göra det har hittills krävt samarbete från ett stort antal människor. Man behövde militärer, man behövde människor i dessa militärer, och man behövde människor för att hålla dessa militärer matade och försörjda. Och man behövde människor för att betala för allt detta genom beskattning. Så människor hade en plats vid bordet eftersom allt på något sätt tillhandahålls av dem.

Nu måste man anta att robotik kommer att utvecklas snart på samma sätt som allmän digital intelligens har gjort. Kanske tar det längre tid än jag tror. Men vid den tidpunkten kräver förmågan att projicera våld inte längre människor. Och det är också tänkbart att AI kan generera tillräckliga intäkter för att regeringen inte skulle behöva förlita sig på att beskatta människor.

Om man tittar på AI-politiken tror jag att amerikaner är smarta och har en känsla av att deras plats vid bordet kan bli mindre. De har rätt att vara rädda.

Wong: Du pratar om maktkoncentration i regeringen, men generativ AI är en teknik som utvecklats inom den privata sektorn. Det finns potential för en sällsynt och till och med oöverträffad maktkoncentration inom industrin. Vilka risker innebär det?

Ball: Man försöker inte undvika all maktkoncentration, utan att balansera den. Om denna era ger upphov till företag som har en enorm makt i världen, tror jag att det är bra – så länge dessa organisationer styrs. Med andra ord, så länge regeringen som övervakar dem