David Robinson, som brukade skriva säkerhetsrapporterna som åtföljde varje större modellsläpp på OpenAI, sade upp sig den här veckan och har gått ut offentligt med sina farhågor i en debattartikel i The Atlantic. Ja, det är ännu en av dessa. Nej, du har inte fel i att känna en smula cynism inför folk som varnar oss för precis det de hjälpte till att bygga. Men varningarna är tyvärr fortfarande värda att läsa.

Robinsons argument är att problemet inte är en saknad regel eller en slapp reglering här och där – det är kulturen i sig. Silicon Valley, säger han, drivs av "extremt självförtroende" och "ständiga sprinter", och spottar ut större och bättre modeller med "ohämmad optimism" medan man ignorerar eller underskattar de potentiella problem som modellerna för med sig.

Hans föreslagna lösning är inte subtil. AI-företag, hävdar han, behöver ödmjukhet och en vilja att blicka bortom den inskränkta, snabbrörliga och sönderslående techvärlden. Specifikt säger han att frontlinjelabb borde verka mindre som startups och mer som kärnkraftverk eller fullt upptagna flygplatser – med lager av redundans och noggrann, tidskrävande planering, så att det enstaka och oundvikliga mänskliga misstaget inte öppnar en dörr till katastrof.

Robinson är den senaste i en allt längre parad av forskare och säkerhetsarbetare som lämnar framstående AI-företag. Jacob Coxon tycks ha sparkat igång uttåget genom att sluta på Anthropic och sedan offentligt uttala att AI "skulle kunna döda oss alla före decenniets slut". Han följdes av Robert O'Callahan, Bilal Chughtai och Josh Engels på Google DeepMind, tillsammans med Joe Benton på Anthropic.