Eind vorige maand lanceerde OpenAI een nogal grootse missie: niets minder dan het verdedigen van individuele politieke vrijheid in een tijdperk van almachtige machines. Het 'Strategic Futures'-team van het bedrijf heeft zich in zekere zin gestileerd als erfgenaam van de taak van de Amerikaanse Founding Fathers: 'Wij werken in dienst van de idealen van vrije meningsuiting en individuele vrijheid die zijn vastgelegd in het nederige perkament van de Amerikaanse grondwet,' schreef Dean Ball, de leider van het team, in een nieuwe blogpost van OpenAI. (De post opent met een citaat van James Madison uit The Federalist Papers.)

Ball maakt zich zorgen dat geavanceerde AI de macht radicaal zou kunnen concentreren in de handen van degenen die het controleren, en arbeid zou kunnen verdringen op manieren die mensen machteloos maken. In een extreem scenario hebben regeringen geen reden meer om naar hun burgers te luisteren als er robots zijn om oorlogen te voeren en alwetende software om de bureaucratie te runnen. Ball is geïnteresseerd in het bestuderen van welke nieuwe politieke instituties nodig zouden kunnen zijn om dit lot te vermijden.

Veel Amerikanen - een meerderheid van wie wantrouwen jegens de AI-industrie, verontwaardiging over datacenters en angst voor hun baanzekerheid uiten - lijken dit verlies van zeggenschap al diep te voelen. En de AI-hausse heeft al enorme hoeveelheden rijkdom gegenereerd in slechts een handvol techbedrijven - waaronder OpenAI zelf. Om het zachtjes uit te drukken, het is paradoxaal dat een van de meest invloedrijke bedrijven in de machtigste industrie ter wereld de door AI mogelijk gemaakte concentratie van macht aan de kaak stelt. Dus nam ik contact op met Ball om meer te begrijpen over zijn onbehagen over de industrie waarin hij werkt, en hoe hij wil dat de Verenigde Staten zich aanpassen aan AI.

Ball, die AI-beleid bestudeert, is een soort kleine beroemdheid in de industrie. Vorig jaar voegde hij zich bij het Witte Huis als AI-adviseur en hielp hij bij het schrijven van het AI-actieplan van de Trump-regering, een beleidsroutekaart voor de technologie. Uiteindelijk vertrok hij, ogenschijnlijk op goede voet, uit de regering voordat hij haar publiekelijk bekritiseerde tijdens haar geschil met Anthropic eerder dit jaar. Daarna, in juli, voegde hij zich bij OpenAI. 'Mijn visie is dat we nu in feite transformerende AI in de wereld hebben,' vertelde Ball me. 'Je leeft in een wereld die wordt getransformeerd. Het gebeurt.'

Dit gesprek is bewerkt voor lengte en duidelijkheid.

Matteo Wong: U schrijft dat concentratie van macht via AI de fundamentele menselijke vrijheden die in de Amerikaanse grondwet zijn vastgelegd, zou kunnen ondermijnen. Kunt u dat toelichten?

Dean Ball: Fundamenteel is politieke macht het geografisch begrensde vermogen om het monopolie op legitiem geweld en dwang uit te oefenen. Dat vereiste tot nu toe de medewerking van een groot aantal mensen. Je had legers nodig, je had mensen in die legers nodig, en je had mensen nodig om die legers te voeden en te bevoorraden. En je had mensen nodig die dat allemaal betaalden via belastingen. Dus mensen hadden een plaats aan tafel omdat, in zekere zin, alles door hen wordt geleverd.

Nu moet je aannemen dat robotica binnenkort op dezelfde manier zal voortschrijden als algemene digitale intelligentie. Misschien duurt het langer dan ik denk. Maar op dat moment vereist het vermogen om geweld te projecteren geen mensen meer. En het is ook denkbaar dat AI voldoende inkomsten genereert dat de overheid niet langer afhankelijk is van het belasten van mensen.

Als je naar de politiek van AI kijkt, denk ik dat Amerikanen slim zijn en een gevoel hebben dat hun plaats aan tafel kleiner wordt. Ze hebben gelijk om bang te zijn.

Wong: U heeft het over concentratie van macht in de overheid, maar generatieve AI is een technologie die in de particuliere sector is ontwikkeld. Er is potentieel voor een zeldzame en zelfs ongekende concentratie van macht in de industrie. Welke risico's vormt dat?

Ball: Je probeert niet alle concentratie van macht te vermijden, maar om die in evenwicht te brengen. Als dit tijdperk bedrijven voortbrengt die een enorme hoeveelheid macht in de wereld hebben, denk ik dat dat goed is - zolang die organisaties worden bestuurd. Met andere woorden, zolang de overheid die hen overziet