David Robinson, qui rédigeait les rapports de sécurité accompagnant chaque sortie de modèle majeur chez OpenAI, a démissionné cette semaine et a rendu publiques ses inquiétudes dans une tribune publiée dans The Atlantic. Oui, c'est encore un de ces cas. Non, vous n'avez pas tort de ressentir un peu de cynisme envers les gens qui nous mettent en garde contre la chose même qu'ils ont aidé à construire. Mais les avertissements, malheureusement, restent dignes d'être lus.

L'argument de Robinson est que le problème n'est pas une règle manquante ou une réglementation laxiste par-ci par-là — c'est la culture elle-même. La Silicon Valley, dit-il, fonctionne à la « confiance extrême » et aux « sprints perpétuels », produisant des modèles toujours plus gros et meilleurs avec un « optimisme sans entrave » tout en ignorant ou en sous-estimant les problèmes potentiels que ces modèles apportent avec eux.

Sa solution proposée n'est pas subtile. Les entreprises d'IA, soutient-il, ont besoin d'humilité et d'une volonté de regarder au-delà du monde insulaire et « move fast and break things » de la tech. Plus précisément, il affirme que les laboratoires de pointe devraient fonctionner moins comme des startups et plus comme des centrales nucléaires ou des aéroports bondés — avec des couches de redondance et une planification prudente et chronophage, afin que l'erreur humaine occasionnelle et inévitable n'ouvre pas la porte à une catastrophe.

Robinson est le dernier en date d'un défilé de plus en plus long de chercheurs et de travailleurs de la sécurité qui quittent des entreprises d'IA de premier plan. Jacob Coxon semble avoir lancé l'exode en quittant Anthropic puis en déclarant publiquement que l'IA « pourrait tous nous tuer d'ici la fin de la décennie ». Il a été suivi par Robert O'Callahan, Bilal Chughtai et Josh Engels chez Google DeepMind, ainsi que Joe Benton chez Anthropic.