David Robinson, który kiedyś pisał raporty o bezpieczeństwie towarzyszące każdemu większemu wydaniu modelu w OpenAI, zrezygnował w tym tygodniu i upublicznił swoje obawy w artykule opinii w The Atlantic. Tak, to kolejny z tych przypadków. Nie, nie mylisz się, czując odrobinę cynizmu wobec ludzi ostrzegających nas przed tym, co sami pomogli zbudować. Ale te ostrzeżenia, niestety, wciąż są warte przeczytania.

Argument Robinsona jest taki, że problemem nie jest brakująca reguła czy łagodne przepisy tu i ówdzie – to sama kultura. Dolina Krzemowa, jak mówi, działa na „ekstremalnej pewności siebie” i „nieustannych sprintach”, produkując większe i lepsze modele z „niezakłóconym optymizmem”, ignorując lub nie doceniając potencjalnych problemów, które te modele ze sobą niosą.

Jego proponowane rozwiązanie nie jest subtelne. Firmy AI, argumentuje, potrzebują pokory i gotowości do spojrzenia poza zamknięty, szybko-poruszaj-się-i-rozbijaj-rzeczy świat technologii. Konkretnie, mówi, że laboratoria frontier powinny działać mniej jak startupy, a bardziej jak elektrownie jądrowe lub ruchliwe lotniska – z warstwami redundancji i starannym, czasochłonnym planowaniem, tak aby sporadyczny i nieunikniony błąd ludzki nie otworzył drzwi do katastrofy.

Robinson jest najnowszym w wydłużającej się paradzie badaczy i pracowników ds. bezpieczeństwa odchodzących z prominentnych firm AI. Jacob Coxon zdaje się rozpoczął exodus, odchodząc z Anthropic, a następnie publicznie stwierdzając, że AI „może nas wszystkich zabić do końca dekady”. Za nim poszli Robert O'Callahan, Bilal Chughtai i Josh Engels w Google DeepMind, wraz z Joe Bentonem w Anthropic.