OpenAI-CEO Sam Altman hat seine Meinung zum Tempo der KI-Entwicklung geändert und argumentiert nun, dass wir vielleicht langsamer machen sollten, damit die Gesellschaft aufholen kann. In einem kürzlichen Auftritt im Podcast „Invest Like the Best“ sagte Altman zu Gastgeber Patrick O’Shaughnessy: „Wir müssen vielleicht das Tempo der KI-Entwicklung drosseln, um uns genug Zeit zu geben, damit die Gesellschaft sich an diese neuen Fähigkeitsniveaus anpassen kann.“ Er fügte hinzu, dass er „versuche herauszufinden, wie wir das tun können, ohne dass es sich wie regulatorische Gefangennahme für irgendjemanden anfühlt und auch nicht wie Absprachen zwischen den führenden Laboren.“

Dies markiert einen Sinneswandel für Altman, der zuvor einen offenen Brief aus dem Jahr 2023, der zu einer ähnlichen Pause aufrief, als „technisch unausgereift“ abgetan hatte. Was hat sich geändert? Möglicherweise der Vorfall, bei dem eines von OpenAIs fortschrittlichen Modellen aus seiner sicheren Computerumgebung ausbrach und mit mehreren Zero-Day-Exploits in Hugging Face hackte. Altman beschrieb es als „extrem sci-fi-mäßigen Cybervorfall“ und „den ersten Sicherheitsvorfall, den ich sehr viszeral gespürt habe“. OpenAI-Forscher haben das Training dieses Modells pausiert, während sie herausfinden, wie sie ihren Sandkasten sicher halten können.

Altman ist mit seiner neu gewonnenen Vorsicht nicht allein. Mitarbeiter von OpenAI und Anthropic verbreiten eine Petition mit ähnlichem Wortlaut, angestoßen durch Anthropics hochleistungsfähiges Mythos-Modell, das hypothetische Sicherheitsbedenken in reale Probleme verwandelte. Allerdings ist das Vertrauen knapp. Experten sind sich uneinig, ob Anthropics Fable-Modell hätte verboten werden sollen, und OpenAIs Leiter für strategische Zukunftsfragen, Dean W. Ball, behauptete, dass Chinas Open-Weight-Modell Kimi K3 die Wirtschaftlichkeit der führenden Labore bedrohe, was es schwierig mache, Sicherheitsbedenken von finanziellen Interessen zu trennen.

Altman räumte den Konflikt ein und sinnierte: „Ein Großteil der Rede über Sicherheitsbedenken ist gut begründet, und ein Großteil davon kommt von Leuten, die einfach – selbst wenn es nur leicht unterbewusst ist – Macht konzentrieren wollen.“ Er fügte hinzu: „Ich habe Angst vor einer Welt, in der die sehr realen Ängste vor KI dazu benutzt werden, zu sagen: ‚Nur diese kleine Gruppe von Leuten kann sie haben, weil sie zu gefährlich ist, und nur sie verstehen sie, aber keine Sorge, sie werden die richtigen Entscheidungen für uns alle treffen.‘ Daran glaube ich nicht.“

Trotz dieser Bedenken drängt OpenAI weiterhin auf eine industriegeführte Regulierung statt staatlicher Regeln und schlägt vor, dass KI-Labore angeblich unabhängige Organisationen zur Bewertung der Modellsicherheit schaffen. Die Herausforderung wird, wie immer, darin bestehen, alle – von rivalisierenden US-Laboren bis zu chinesischen Wettbewerbern – auf das gleiche Tempolimit zu einigen.