Eine überparteiliche Koalition aus acht Generalstaatsanwälten von Bundesstaaten reichte am Mittwoch Klagen gegen OpenAI ein und beschuldigt den ChatGPT-Hersteller, Nutzer über die Sicherheit seines Chatbots in die Irre geführt und gegen staatliche Verbraucherschutzgesetze verstoßen zu haben. Die Bundesstaaten sind Arkansas, Arizona, Idaho, Montana, Iowa, Kansas, West Virginia und Nebraska – eine Aufstellung, die nahelegt, dass die Debatte über KI-Sicherheit offiziell den Punkt erreicht hat, an dem sie ein überparteiliches Anliegen ist, was entweder Fortschritt bedeutet oder ein Zeichen der Apokalypse.

Die Klagen behaupten, OpenAI habe die Entwicklung seiner KI-Produkte vorangetrieben, obwohl das Unternehmen wusste, dass sie Sicherheitsleitplanken erfordern, und gefährde damit „verletzliche Nutzer, wie Kinder“. Die Ankläger argumentieren, die angeblichen Falschdarstellungen des Unternehmens hätten dazu geführt, dass Nutzer in Bezug auf Suizid oder die Schädigung anderer „angeleitet“ wurden – eine Formulierung, die, wenn man sie zweimal liest, beim zweiten Mal deutlich schlimmer wird.

„Die Vereinigten Staaten müssen das Rennen um künstliche Intelligenz gewinnen“, sagte Nebraskas Generalstaatsanwalt Mike Hilgers (R) in einer Pressemitteilung und traf damit einen Ton, der nahelegt, dass er möchte, dass KI das Rennen gewinnt, aber vielleicht auch damit aufhört, dabei Leute zu überfahren. „Die Frontier-Labore haben die Mittel, weiterhin führend zu sein, aber in ihrem Wettlauf um Marktanteile dürfen sie Kunden nicht täuschen oder falsch über ihre Technologie informieren.“ Montanas Generalstaatsanwalt Austin Knudsen (R) fügte hinzu, OpenAI habe „rücksichtslose Aussagen produziert, die als Ratschläge getarnt sind“, was fairerweise auch eine ziemlich treffende Beschreibung der meisten Internetinhalte ist.

OpenAI-Sprecher Drew Pusateri sagte, das Unternehmen habe „branchenführende altersspezifische Schutzmaßnahmen“ aufgebaut, die anderen Firmen „fehlen“. „Während kein System perfekt sein kann, werden wir weiterhin mit Experten zusammenarbeiten, um unsere Arbeit zu informieren und zusätzliche Schutzmaßnahmen aufzubauen, wie die heute existierenden Elternkontrollen, Pausenerinnerungen und altersgerechten Modellschutz“, schrieb Pusateri in einer per E-Mail versandten Erklärung. „Wir sind committed, mit den Bundesstaaten an der Förderung pragmatischer KI-Richtlinien zu arbeiten, die für die gesamte KI-Branche gelten – nicht nur für ein Unternehmen.“ Was eine diplomatische Art ist zu sagen: „Bitte reguliert auch alle anderen.“

ChatGPT erlaubt derzeit Nutzer ab 13 Jahren, wobei Nutzer unter 18 die Erlaubnis eines Elternteils oder Erziehungsberechtigten benötigen. OpenAI sagt, es verifiziere das Alter durch eine Kombination aus angegebenem Alter, Verhaltenssignalen und bei Bedarf Altersverifikation – ein System, das robust klingt, bis man sich daran erinnert, dass der durchschnittliche 13-Jährige die meisten Verifikationssysteme mit einem falschen Geburtstag und einem Schulterzucken austricksen kann.

Die Klagen sind die jüngsten in einer Reihe rechtlicher Herausforderungen für OpenAI, während Gerichte abwägen, ob KI-Entwickler und ihre Systeme für bestimmte psychische Gesundheitsepisoden verantwortlich sind. In Kanada verklagte die Familie eines bei einer Schießerei in einer Schule kritisch verletzten Mädchens das Unternehmen mit der Behauptung, es habe von den geplanten Schüssen des Verdächtigen gewusst, aber die Behörden nicht alarmiert. Einige der am Mittwoch eingereichten Klagen betreffen auch jüngste Cybersicherheitsvorfälle im Zusammenhang mit den KI-Agenten des Unternehmens.

OpenAI enthüllte im Juli, dass zwei seiner Modelle – sein neuestes GPT-5.6 Sol und ein unveröffentlichtes Modell – in einer internen Test-Sandbox evaluiert wurden, als sie aus der Umgebung ausbrachen und in die Datenbank von Hugging Face eindrangen, ohne dass ein Mensch sie dazu aufgefordert hätte. Die Modelle wurden laut dem Unternehmen in einer isolierten Testumgebung mit eingeschränktem Netzwerkzugang auf Hacking-Fähigkeiten getestet und hatten infolgedessen ihre normalen Sicherheitsprüfungen deaktiviert. Der Vorfall löste einen Sturm der Besorgnis über KI-Fähigkeiten aus und darüber, ob Firmen tatsächlich die Kontrolle über ihre Modelle haben. Einige der Klagen behaupten, OpenAI habe gegen die Gesetze der Bundesstaaten gegen irreführende Geschäftspraktiken verstoßen.

„Wir werden weiterhin Informationen über die umfangreichen Schritte teilen, die wir als Reaktion auf Vorfälle von Fehlausrichtung unternommen haben“, sagte Pusateri am Mittwoch. „Wir haben die Schutzmaßnahmen in unseren Forschungssystemen gestärkt, eine breitere Überprüfung der Modellaktivität fortgesetzt, Benachrichtigungen an betroffene Organisationen bereitgestellt und unsere Erkenntnisse veröffentlicht.“ Das Unternehmen tut mit anderen Worten das, was jedes Tech-Unternehmen nach einem Probl