Pod koniec ubiegłego miesiąca OpenAI ogłosiło dość doniosłą misję: nic mniej niż obronę indywidualnej wolności politycznej w epoce wszechmocnych maszyn. Zespół „Strategic Futures” firmy w pewnym sensie ubrał się w szaty spadkobierców amerykańskich Ojców Założycieli: „Pracujemy w służbie ideałów wolności słowa i indywidualnej wolności, które są zapisane w skromnym pergaminie Konstytucji USA” – napisał Dean Ball, lider zespołu, w nowym poście na blogu OpenAI. (Post otwiera cytat z Jamesa Madisona z „Federalisty”.)
Ball martwi się, że zaawansowana AI może radykalnie skoncentrować władzę w rękach tych, którzy ją kontrolują, wypierając pracę w sposób, który pozbawia ludzi siły. W skrajnym scenariuszu rządy nie będą musiały słuchać obywateli, jeśli będą roboty do prowadzenia wojen i wszechwiedzące oprogramowanie do zarządzania biurokracją. Ball jest zainteresowany badaniem, jakie nowe instytucje polityczne mogą być potrzebne, aby uniknąć tego losu.
Wielu Amerykanów – większość z nich wyraża nieufność wobec branży AI, oburzenie z powodu centrów danych i obawy o bezpieczeństwo pracy – już wydaje się głęboko odczuwać tę utratę sprawczości. A boom na AI już wygenerował ogromne bogactwo w zaledwie kilku firmach technologicznych – w tym w samym OpenAI. Delikatnie mówiąc, paradoksalne jest, że jedna z najbardziej wpływowych firm w najpotężniejszej branży świata potępia koncentrację władzy umożliwioną przez AI. Skontaktowałem się więc z Ballem, aby lepiej zrozumieć jego niepokój o branżę, w której pracuje, i jak chciałby, aby Stany Zjednoczone przystosowały się do AI.
Ball, który zajmuje się polityką AI, jest swego rodzaju mniejszą gwiazdą w branży. W zeszłym roku dołączył do Białego Domu jako doradca ds. AI i pomógł napisać plan działania administracji Trumpa dotyczący AI, mapę drogową polityki dla tej technologii. Ostatecznie odszedł, najwyraźniej w dobrych stosunkach, z administracji, zanim publicznie ją skrytykował podczas sporu z Anthropic wcześniej w tym roku. Następnie, w lipcu, dołączył do OpenAI. „Moim zdaniem mamy teraz na świecie zasadniczo transformacyjną AI” – powiedział mi Ball. „Żyjesz w świecie, który się zmienia. To się dzieje”.
Ta rozmowa została zredagowana dla zachowania długości i jasności.
Matteo Wong: Piszesz, że koncentracja władzy poprzez AI może obalić podstawowe ludzkie wolności zapisane w Konstytucji USA. Czy możesz rozwinąć, jak?
Dean Ball: Zasadniczo władza polityczna to geograficznie ograniczona zdolność do sprawowania monopolu na legalną siłę i przemoc. Dotychczas wymagało to współpracy wielu ludzi. Potrzebne były wojska, ludzie w tych wojskach i ludzie, którzy je żywili i zaopatrywali. Potrzebni byli też ludzie, którzy płaciliby za to wszystko podatkami. Więc ludzie mieli miejsce przy stole, ponieważ w pewnym sensie wszystko jest przez nich zapewniane.
Teraz trzeba założyć, że robotyka wkrótce rozwinie się w podobny sposób, jak ogólna cyfrowa inteligencja. Może to potrwać dłużej, niż myślę. Ale w tym momencie zdolność do projekcji przemocy nie będzie już wymagać ludzi. Możliwe jest również, że AI wygeneruje wystarczające przychody, aby rząd nie musiał polegać na opodatkowaniu ludzi.
Jeśli spojrzeć na politykę AI, myślę, że Amerykanie są mądrzy i mają poczucie, że ich miejsce przy stole może się kurczyć. Mają rację, że się boją.
Wong: Mówisz o koncentracji władzy w rządzie, ale generatywna AI to technologia rozwijana w sektorze prywatnym. Istnieje potencjał rzadkiej, a nawet bezprecedensowej koncentracji władzy w przemyśle. Jakie ryzyko to stwarza?
Ball: Nie chodzi o unikanie wszelkiej koncentracji władzy, ale o jej równoważenie. Jeśli ta era wyda na świat korporacje, które będą miały ogromną władzę na świecie, myślę, że to dobrze – pod warunkiem, że te organizacje są zarządzane. Innymi słowy, dopóki rząd, który je nadzoruje