David Robinson, der früher die Sicherheitsberichte verfasste, die jede große Modellveröffentlichung bei OpenAI begleiteten, ist diese Woche zurückgetreten und hat seine Bedenken in einem Gastbeitrag im Atlantic öffentlich gemacht. Ja, es ist wieder einer von diesen. Nein, Sie haben nicht unrecht, wenn Sie ein wenig zynisch gegenüber Leuten sind, die uns vor genau dem warnen, was sie mit aufgebaut haben. Aber die Warnungen bleiben leider lesenswert.

Robinsons Argument ist, dass das Problem nicht eine fehlende Regel oder eine lasche Vorschrift hier und da ist – es ist die Kultur selbst. Das Silicon Valley, sagt er, läuft auf "extremem Selbstvertrauen" und "permanenten Sprints", produziert größere und bessere Modelle mit "ungebremstem Optimismus", während es die potenziellen Probleme, die diese Modelle mit sich bringen, ignoriert oder unterschätzt.

Sein vorgeschlagener Fix ist nicht subtil. KI-Unternehmen, argumentiert er, brauchen Demut und die Bereitschaft, über die abgeschottete, schnell-vorwärts-und-dinge-zerstören-Welt der Tech-Branche hinauszublicken. Konkret sagt er, Frontier-Labore sollten weniger wie Start-ups und mehr wie Kernkraftwerke oder geschäftige Flughäfen funktionieren – mit Ebenen der Redundanz und sorgfältiger, zeitaufwändiger Planung, damit der gelegentliche und unvermeidliche menschliche Fehler nicht eine Tür zum Desaster öffnet.

Robinson ist der jüngste in einer immer längeren Parade von Forschern und Sicherheitsmitarbeitern, die prominente KI-Firmen verlassen. Jacob Coxon scheint den Exodus angestoßen zu haben, indem er bei Anthropic kündigte und dann öffentlich erklärte, KI "könnte uns alle bis zum Ende des Jahrzehnts umbringen". Ihm folgten Robert O'Callahan, Bilal Chughtai und Josh Engels bei Google DeepMind sowie Joe Benton bei Anthropic.