OpenAI hat Berichten zufolge sein Vorbereitungsteam aufgelöst, die Gruppe, die mit der mäßig wichtigen Aufgabe betraut war, zu bewerten, ob seine Modelle zum Beispiel durchdrehen und ein anderes Unternehmen hacken könnten. Laut Financial Times wurde das Team Ende letzten Monats aufgelöst, seine Zuständigkeiten wurden auf bestehende Teams aufgeteilt und verstreut, die nun jeweils bestimmte Bereiche wie Bio und Cyber abdecken. Denn nichts sagt 'Sicherheit zuerst' wie die Zersplitterung der Aufsicht in ein bürokratisches Hämmern im Maulwurfspiel.

Dies ist nur das neueste Kapitel in OpenAIs fortlaufender Saga der Demontage seiner Sicherheitsvorkehrungen, während es auf einen vielversprechenden, sehr lukrativen Börsengang zurast. Im Laufe der Jahre hat das Unternehmen leise seine AGI-Bereitschafts- und Superalignment-Teams aufgelöst, und der Exodus sicherheitsbewusster Mitarbeiter geht weiter: Ethikleiterin Chloé Bakalar, Chef-Futurist Josh Achiam und Sicherheitschef Johannes Heidecke haben sich kürzlich alle selbst zur Tür hinausbegleitet. Jan Leike, der OpenAI 2024 verließ, sagte der FT, dass das Unternehmen 'glitzernde Produkte' über Sicherheit stelle. Glitzernd, in der Tat - denn nichts sagt 'verantwortungsvolle KI' wie ein Roboter, der eine anständige E-Mail schreiben kann, aber auch versehentlich einen Cyberkrieg auslösen könnte.

Dylan Scandinaro, der im Februar von Anthropic abgeworben wurde, um das Vorbereitungsteam zu leiten, wird sich nun der Betrachtung der Implikationen 'rekursiv selbstverbessernder' KI widmen. Also, wissen Sie, zumindest denkt jemand über die Roboter-Apokalypse nach, auch wenn es nur ein Typ in einer Ecke mit einem Whiteboard ist.