Ende letzten Monats startete OpenAI eine ziemlich große Mission: nichts Geringeres als die Verteidigung der individuellen politischen Freiheit in einem Zeitalter allmächtiger Maschinen. Das "Strategic Futures"-Team des Unternehmens hat sich gewissermaßen als Erbe der Aufgabe der amerikanischen Gründerväter stilisiert: "Wir arbeiten im Dienste der Ideale der freien Meinungsäußerung und der individuellen Freiheit, die in dem bescheidenen Pergament der US-Verfassung verankert sind", schrieb Dean Ball, der Leiter des Teams, in einem neuen OpenAI-Blogbeitrag. (Der Beitrag beginnt mit einem Zitat von James Madison aus den Federalist Papers.)
Ball sorgt sich, dass fortschrittliche KI die Macht radikal in den Händen derjenigen konzentrieren könnte, die sie kontrollieren, und Arbeit auf eine Weise verdrängt, die Menschen entmachtet. In einem extremen Szenario müssten Regierungen nicht mehr auf ihre Bürger hören, wenn es Roboter für Kriege und allwissende Software für die Bürokratie gibt. Ball interessiert sich dafür, welche neuen politischen Institutionen nötig sein könnten, um dieses Schicksal zu vermeiden.
Viele Amerikaner – eine Mehrheit, die Misstrauen gegenüber der KI-Branche, Empörung über Rechenzentren und Ängste um ihre Arbeitsplatzsicherheit äußert – scheinen diesen Verlust an Handlungsmacht bereits tief zu spüren. Und der KI-Boom hat bereits enorme Vermögen in nur einer Handvoll Technologieunternehmen geschaffen – einschließlich OpenAI selbst. Es ist gelinde gesagt paradox, dass eines der einflussreichsten Unternehmen der mächtigsten Branche der Welt die KI-bedingte Machtkonzentration anprangert. Also kontaktierte ich Ball, um mehr über sein Unbehagen gegenüber der Branche, in der er arbeitet, zu erfahren und wie er sich eine Anpassung der USA an KI vorstellt.
Ball, der KI-Politik erforscht, ist so etwas wie ein kleiner Prominenter in der Branche. Letztes Jahr trat er als KI-Berater ins Weiße Haus ein und half beim Schreiben des KI-Aktionsplans der Trump-Administration, einer politischen Roadmap für die Technologie. Schließlich verließ er die Administration – offenbar im Guten –, bevor er sie während ihres Streits mit Anthropic Anfang dieses Jahres öffentlich scharf kritisierte. Dann, im Juli, kam er zu OpenAI. "Meine Ansicht ist, dass wir im Grunde jetzt transformative KI in der Welt haben", sagte Ball mir. "Du lebst in einer Welt, die transformiert wird. Es passiert."
Dieses Gespräch wurde aus Gründen der Länge und Klarheit bearbeitet.
Matteo Wong: Sie schreiben, dass die Machtkonzentration durch KI die grundlegenden menschlichen Freiheiten, die in der US-Verfassung verankert sind, umstürzen könnte. Können Sie das näher ausführen?
Dean Ball: Grundsätzlich ist politische Macht die geografisch begrenzte Fähigkeit, das Monopol auf legitime Gewalt und Zwang auszuüben. Dies erforderte bisher die Zusammenarbeit vieler Menschen. Man brauchte Militärs, man brauchte Menschen in diesen Militärs, und man brauchte Menschen, die diese Militärs versorgten. Und man brauchte Menschen, die all das durch Steuern finanzierten. Also hatten die Menschen einen Platz am Tisch, weil in gewissem Sinne alles von ihnen bereitgestellt wird.
Jetzt muss man annehmen, dass sich Robotik bald in ähnlicher Weise weiterentwickeln wird wie die allgemeine digitale Intelligenz. Vielleicht dauert es länger, als ich denke. Aber an diesem Punkt erfordert die Fähigkeit, Gewalt auszuüben, keine Menschen mehr. Und es ist auch vorstellbar, dass KI genügend Einnahmen generiert, dass die Regierung nicht mehr auf die Besteuerung der Menschen angewiesen wäre.
Wenn man sich die Politik der KI ansieht, denke ich, dass die Amerikaner klug sind und ein Gespür dafür haben, dass ihr Platz am Tisch kleiner werden könnte. Sie haben zu Recht Angst.
Wong: Sie sprechen über Machtkonzentration in der Regierung, aber generative KI ist eine Technologie, die im privaten Sektor entwickelt wird. Es besteht das Potenzial für eine seltene und sogar beispiellose Machtkonzentration in der Industrie. Welche Risiken birgt das?
Ball: Man versucht nicht, jegliche Machtkonzentration zu vermeiden, sondern sie auszugleichen. Wenn diese Ära Unternehmen hervorbringt, die enorm viel Macht in der Welt haben, denke ich, dass das gut ist – solange diese Organisationen regiert werden. Mit anderen Worten, solange die Regierung, die sie überwacht,