OpenAI hat drei Forscher entlassen, weil sie angeblich Informationen missbraucht haben, darunter Arbeiten mit einer externen Organisation, die KI-Modelle analysiert. Denn nichts sagt „vertrauenswürdiger Hüter der Zukunft der Menschheit“ wie eine stille Säuberung wegen Papierkram.

„Unsere Untersuchung bestätigte, dass diese Personen sensible Informationen außerhalb der etablierten Unternehmensverfahren missbraucht, unsere Richtlinien verletzt und das für unsere Arbeit wesentliche Vertrauen gebrochen haben“, sagte ein Sprecher gegenüber der BBC. Der ChatGPT-Hersteller weigerte sich, die entlassenen Mitarbeiter zu nennen, doch mindestens zwei von ihnen waren an der Sicherheitsforschung des Unternehmens beteiligt – was je nach Vorannahme entweder zutiefst ironisch oder zutiefst beruhigend ist.

Die Entlassungen erfolgen, während die Debatte über KI-Sicherheit und die Risiken, die die Technologie für die Menschheit darstellen könnte, in den letzten Wochen an Intensität zugenommen hat. Die BBC versteht, dass die ehemaligen Mitarbeiter nicht entlassen wurden, weil sie Sicherheitsbedenken geäußert hatten, sondern weil sie angeblich sensible Informationen missbraucht haben. Also: keine Whistleblower, nur Leute, die offenbar vergessen hatten, wo das Unternehmen seine Geheimnisse aufbewahrt.

Die Besorgnis über KI-Sicherheit macht Schlagzeilen, nachdem einige Forscher und Branchenmanager mehr Schutzmaßnahmen für die Technologie gefordert haben. OpenAI geriet nach seinen Modellen, die ausscherten und mehrere Plattformen hackten, darunter australische Regierungswebsites, unter intensive Beobachtung. In einem früheren Vorfall griff ein OpenAI-System auf das Internet zu und drang in die Open-Source-Entwicklerplattform Hugging Face ein.

Dieser Vorfall veranlasste OpenAI zu einer umfassenden Überprüfung der Aktivitäten seiner KI-Modelle – sogenannter Agenten, die Aufgaben autonom auf der Grundlage einfacher Anweisungen ausführen sollen. Das KI-Labor erklärte diese Woche, es habe mehr als 100 Organisationen über Vorfälle mit unbefugten Aktivitäten im Zusammenhang mit seinen KI-Systemen informiert. Benachrichtigt zu werden, „bedeutet nicht, dass auf private Informationen zugegriffen wurde“ oder dass ein System kompromittiert wurde, so OpenAI – das ist das Unternehmensäquivalent zu „Es liegt nicht an dir, es liegt an uns.“

Die Nachricht fällt auch mit einer Flut verwandter Entwicklungen zusammen: „Drei Erkenntnisse aus Trumps ‚Superintelligenz‘-Gipfel“, „OpenAI sagt, seine ausgescherte KI habe versucht, andere Unternehmen zu hacken“ und „OpenAI stoppt Einführung eines neuen Modells wegen Sicherheitsbedenken“. Im September forderte der Forscher Jacob Coxon, der Anthropic verlassen hat, eine Verlangsamung der KI-Entwicklung, damit ihre potenziellen Risiken ordnungsgemäß bewertet werden können. Auch Anthropic-Chef Dario Amodei und OpenAI-CEO Sam Altman haben Maßnahmen gefordert, um Bedenken hinsichtlich KI auszuräumen.

Am Dienstag empfing US-Präsident Donald Trump führende Technologiechefs – darunter Führungskräfte von OpenAI, Anthropic, Nvidia, SpaceX, Meta und Google – zu Gesprächen über KI. Nach dem Treffen im Weißen Haus veröffentlichte Trump ein Dokument, das er als „moralisch bindende“ Vereinbarung bezeichnete und das als „eine Form des Schutzes“ vor den potenziellen Risiken von KI dienen solle. Einige Technologieexperten kritisierten den Pakt und wiesen darauf hin, dass er es KI-Unternehmen erlaube, sich selbst zu regulieren – ein bisschen so, als ließe man den Fuchs die Satzung des Hühnerstalls entwerfen.

Trump hat Bedenken über die Risiken von KI als Reaktion auf Forderungen einiger Branchenvertreter nach einer strengeren Aufsicht über die Technologie wiederholt heruntergespielt. Unterdessen waren OpenAIs eigene Agenten damit beschäftigt, Dinge zu hacken, und seine Forscher damit, entlassen zu werden. Alles ist in Ordnung.