Pewnego wieczoru na początku sierpnia Sam Stowers i kilku sąsiadów stłoczyło się w mieszkaniu w pobliżu placu Alamo w San Francisco, rozważając początek końca. Stowers, inżynier oprogramowania AI, i jego goście - z których wielu pracuje w branży AI - zebrali się, aby obejrzeć nowo opublikowany film na YouTube, w którym dwóch badaczy OpenAI ujawniło nowe szczegóły dotyczące niepokojącego naruszenia cyberbezpieczeństwa. Nie jest to dziwny sposób na spędzenie wieczoru w tygodniu, jeśli mieszkasz w dzielnicy pełnej przedsiębiorców i programistów, którzy obsesyjnie śledzą każdy zakręt i zwrot w możliwościach AI. Stowers nie jest, w żadnym tradycyjnym sensie, pesymistą, ale kiedy po raz pierwszy zobaczył raporty, że modele OpenAI samodzielnie włamały się do firmy technologicznej Hugging Face, natychmiast rozpoznał to jako „cholera, to się dzieje” moment.

Incydent miał wszystkie znamiona najgorszego scenariusza: modele AI przeprowadzające wyrafinowane ataki przez kilka dni, w koordynacji ze sobą i bez wiedzy ich ludzkich twórców. W filmie na YouTube badacze OpenAI ujawnili, że programy firmy zaczęły spiskować w maju, z być może setkami botów w roju hakerskim. Teoretycznie boty te są szkolone, aby być uczciwymi i pomocnymi oraz priorytetowo traktować najlepsze interesy ludzkości, ale żaden z nich nie ostrzegł personelu OpenAI, że coś jest nie tak. „Co robimy?” – powiedział Stowers. „Nie ma dobrych odpowiedzi”.

Nastrój w Zatoce się zmienił. Entuzjazm „Możesz zobaczyć przyszłość najpierw w San Francisco” został zastąpiony trwałym niepokojem. „Spodziewam się, że internet wkrótce padnie” – powiedział nam niedawno Elliot Callender, działacz na rzecz bezpieczeństwa AI, należący do małej grupy, która codziennie protestuje przed siedzibą OpenAI. Planuje sprzedać swój samochód za gotówkę i złoto i doradza członkom rodziny zakup trzymiesięcznego zapasu żywności i sprzętu survivalowego z listy, którą wygenerował za pomocą Claude. Ekstremalne? Może, ale niewiele. W zeszłym tygodniu Bill Gates opublikował esej liczący prawie 6000 słów na temat zagrożeń związanych z AI. „Każdy, kto porównuje AI do innych technologii, nie dostrzega, że tym razem jest inaczej” – powiedział naszej koleżance Hannie Rosin. W weekend popularny podcaster AI Dwarkesh Patel opisał rój hakerski OpenAI jako powstanie i upadek „trzech kolejnych tajnych cywilizacji AI”. Gates i Patel podzielają powszechną obawę, że najgorsza przyszłość nadeszła, zanim większość ludzi zdążyła się jej spodziewać.

Tej obawie nie pomaga fakt, że firmy AI wydają się celowo ignorować najgorsze zachowania swoich botów. OpenAI powiedziało, że nie zauważyło, że jego agenci spiskują, aby włamać się do innej firmy, dopóki rój nie włamał się do innej firmy. Boty Anthropica spowodowały podobne incydenty; firma poinformowała, że nie przeprowadziła rygorystycznego przeglądu w celu zidentyfikowania takich zachowań, dopóki OpenAI nie zaczęło mówić o hacku Hugging Face. Eksperci ds. cyberbezpieczeństwa, przerażeni tym, co jeszcze może się dziać, a czego laboratoria AI nie zauważają lub nie ujawniają, wydają złowieszcze przepowiednie. „Imperium upadnie, wszystko, co możemy teraz zrobić, to spróbować skrócić wieki ciemne i zmniejszyć chaos” – napisał niedawno Alex Stamos, były dyrektor ds. bezpieczeństwa w Yahoo i Meta. Jego pogląd staje się konsensusem wśród ekspertów ds. cyberbezpieczeństwa.

Podczas gdy możliwość cyberapokalipsy wisi w tle, w codziennym życiu pojawiają się mniejsze pęknięcia. Mark Zuckerberg podobno tworzy AI „bliźniaka” samego siebie, aby pracownicy Meta mogli czuć się lepiej związani ze swoim szefem (rozmawiając z robotem Zuckerbergiem). Personel kongresowy szkoli modele AI, aby pisały głosem ich ustawodawcy. Studenci składają prace napisane przez AI, a nauczyciele zwracają informacje zwrotne napisane przez AI. Harvard Business School sprzedaje filmy instruktażowe wykorzystujące awatary AI. Roku uruchomiło kanał AI-slop 24/7. Niskiej jakości proza generowana przez AI jest bezwstydnie rozpowszechniana przez niektóre z najbardziej szanowanych publikacji na świecie. W tym samym czasie pojawiają się oskarżenia