David Robinson, die vroeger de veiligheidsrapporten schreef die bij elke grote modelrelease van OpenAI werden geleverd, heeft deze week ontslag genomen en zijn zorgen publiekelijk gemaakt in een opiniestuk in The Atlantic. Ja, het is er weer zo een. Nee, je hebt geen ongelijk als je een beetje cynisch bent over mensen die ons waarschuwen voor precies datgene wat ze zelf hebben helpen bouwen. Maar de waarschuwingen blijven helaas de moeite van het lezen waard.

Robinsons betoog is dat het probleem niet een ontbrekende regel of hier en daar een lakse regulering is – het is de cultuur zelf. Silicon Valley, zegt hij, draait op 'extreem vertrouwen' en 'eeuwige sprints', en produceert grotere en betere modellen met 'onbelemmerd optimisme' terwijl het de potentiële problemen die die modellen met zich meebrengen negeert of onderschat.

Zijn voorgestelde oplossing is niet subtiel. AI-bedrijven, betoogt hij, hebben nederigheid nodig en de bereidheid om verder te kijken dan de insulaire, move-fast-and-break-things-wereld van tech. Concreet zegt hij dat frontier-labs minder als startups en meer als kerncentrales of drukke luchthavens zouden moeten opereren – met lagen redundantie en zorgvuldige, tijdrovende planning, zodat de incidentele en onvermijdelijke menselijke fout niet de deur naar een ramp opent.

Robinson is de nieuwste in een steeds langere stoet onderzoekers en veiligheidsmedewerkers die prominente AI-bedrijven de rug toekeren. Jacob Coxon lijkt de exodus te zijn begonnen door bij Anthropic weg te gaan en vervolgens publiekelijk te verklaren dat AI 'ons allemaal tegen het einde van het decennium zou kunnen doden'. Hij werd gevolgd door Robert O'Callahan, Bilal Chughtai en Josh Engels bij Google DeepMind, samen met Joe Benton bij Anthropic.