David Robinson, cel care obișnuia să scrie rapoartele de siguranță ce însoțeau fiecare lansare majoră de model la OpenAI, a demisionat săptămâna aceasta și și-a făcut publice îngrijorările într-un editorial în The Atlantic. Da, este încă unul dintre aceștia. Nu, nu greșești dacă simți un pic de cinism față de oamenii care ne avertizează despre exact lucrul pe care au ajutat să-l construiască. Dar avertismentele, din păcate, rămân demne de citit.

Argumentul lui Robinson este că problema nu este o regulă lipsă sau o reglementare laxă ici și colo – ci cultura în sine. Silicon Valley, spune el, funcționează pe "încredere extremă" și "sprinturi perpetue", producând modele tot mai mari și mai bune cu "optimism neîngrădit", ignorând sau subestimând problemele potențiale pe care aceste modele le aduc cu ele.

Soluția propusă de el nu este subtilă. Companiile de AI, argumentează el, au nevoie de umilință și de disponibilitatea de a privi dincolo de lumea insulară a tehnologiei, cu mentalitatea "mișcă-te repede și distruge lucruri". Mai exact, spune el, laboratoarele de frontieră ar trebui să funcționeze mai puțin ca startup-uri și mai mult ca centrale nucleare sau aeroporturi aglomerate – cu straturi de redundanță și planificare atentă, consumatoare de timp, astfel încât eroarea umană ocazională și inevitabilă să nu deschidă ușa către dezastru.

Robinson este cel mai recent dintr-o paradă tot mai lungă de cercetători și lucrători în domeniul siguranței care părăsesc firme proeminente de AI. Jacob Coxon pare să fi declanșat exodul demisionând de la Anthropic și apoi declarând public că AI "ne-ar putea ucide pe toți până la sfârșitul deceniului". El a fost urmat de Robert O'Callahan, Bilal Chughtai și Josh Engels de la Google DeepMind, împreună cu Joe Benton de la Anthropic.