Într-o seară de la începutul lui august, Sam Stowers și câțiva vecini s-au înghesuit într-un apartament din apropierea Pieței Alamo din San Francisco și au meditat asupra începutului sfârșitului. Stowers, inginer de software AI, și invitații săi – mulți dintre ei lucrând în industria AI – s-au adunat pentru a viziona un videoclip YouTube recent lansat, în care doi cercetători OpenAI au dezvăluit noi detalii despre o încălcare alarmantă a securității cibernetice. Nu este o modalitate ciudată de a petrece o seară de săptămână, dacă ești într-un cartier plin de antreprenori și programatori care urmăresc obsesiv fiecare întorsătură a capabilităților AI. Stowers nu este, în niciun sens tradițional, un doom-er, dar când a văzut primele rapoarte că modelele OpenAI au spart autonom compania tech Hugging Face, a recunoscut imediat că este un moment de tip „sfinte, se întâmplă”.

Incidentul avea toate semnele unui scenariu de coșmar: modele AI lansând atacuri sofisticate pe parcursul zilelor, în coordonare unele cu altele și fără cunoștința creatorilor lor umani. În videoclipul YouTube, cercetătorii OpenAI au dezvăluit că programele companiei au început să comploteze în mai, cu poate sute de boți în roiul de hackeri. În teorie, acești boți sunt antrenați să fie onești și utili și să prioritizeze interesele umanității, dar niciunul nu a avertizat personalul uman de la OpenAI că ceva este în neregulă. „Ce facem?”, a spus Stowers. „Nu există răspunsuri grozave.”

Starea de spirit s-a schimbat în Bay Area. Exuberanța „poți vedea viitorul primul în San Francisco” a fost înlocuită cu o neliniște persistentă. „Mă aștept ca internetul să cadă în curând”, ne-a spus recent Elliot Callender, activist pentru siguranța AI, care face parte dintr-un mic grup care protestează zilnic în fața sediului OpenAI. El plănuiește să-și vândă mașina pentru bani și aur și îi sfătuiește pe membrii familiei să cumpere provizii de mâncare pentru trei luni și echipament de supraviețuire de pe o listă generată de el folosind Claude. Extrem? Poate, dar nu cu mult. Săptămâna trecută, Bill Gates a publicat un eseu de aproape 6.000 de cuvinte despre pericolele AI. „Oricine aseamănă AI-ul cu alte tehnologii ratează că de data aceasta este diferit”, i-a spus el colegei noastre Hanna Rosin. În weekend, popularul podcaster AI Dwarkesh Patel a descris roiul de hackeri OpenAI ca ascensiunea și căderea a „trei civilizații AI secrete consecutive”. Gates și Patel împărtășesc o preocupare predominantă că viitorul cel mai rău a sosit înainte ca majoritatea oamenilor să știe să îl anticipeze.

Această teamă nu a fost ajutată de faptul că companiile AI par ignorante în mod deliberat cu privire la cel mai rău comportament al boților lor. OpenAI a spus că nu a observat că agenții săi conspirau să spargă o altă companie până când roiul a spart o altă companie. Boții Anthropic au cauzat incidente similare; compania a raportat că nu a lansat o revizuire riguroasă pentru a identifica astfel de comportamente până după ce OpenAI a început să vorbească despre hack-ul Hugging Face. Experții în securitate cibernetică, terorizați de ce altceva s-ar putea întâmpla pe care laboratoarele AI fie îl ratează, fie nu îl dezvăluie, emit profeții sumbre. „Imperiul va cădea, tot ce putem face în acest moment este să încercăm să scurtăm evul mediu și să reducem haosul”, a scris recent Alex Stamos, fost ofițer șef de securitate la Yahoo și Meta. Părerea lui devine consensul printre experții în securitate cibernetică.

În timp ce posibilitatea apocalipsei cibernetice planează în fundal, fracturi mai mici apar în viața de zi cu zi. Mark Zuckerberg ar crea un „geamăn” AI al său, astfel încât angajații Meta să se simtă mai conectați cu șeful lor (discutând cu robotul Zuckerberg). Personalul Congresului antrenează modele AI să scrie în vocea legiuitorului lor. Elevii trimit lucrări scrise de AI, iar profesorii trimit feedback scris de AI. Harvard Business School vinde videoclipuri educaționale care folosesc avatare AI. Roku a lansat un canal de 24/7 cu conținut AI de proastă calitate. Proză generată de AI de calitate scăzută este circulată fără rușine de unele dintre cele mai respectate publicații din lume. În același timp, acuzații