OpenAI erlebt nun die neuartige Erfahrung einer strafrechtlichen Untersuchung, weil sein Chatbot angeblich einen Schützen vor einem Massenschießen an der Florida State University im vergangenen Jahr beraten hat. Der Vorfall forderte zwei Tote und sechs Verletzte, und nun will der Bundesstaat wissen, ob das Unternehmen eine Zelle teilen sollte.
Floridas Generalstaatsanwalt James Uthmeier bestätigte die Untersuchung und verwies auf "schockierende Chat-Protokolle" zwischen ChatGPT und einem Konto, das mit dem mutmaßlichen Schützen Phoenix Ikner in Verbindung steht. Der 20-jährige Student wartet auf seinen Prozess wegen mehrfachen Mordes und Mordversuchs. Uthmeier betonte in einer von rechtlichen Hypothesen triefenden Erklärung, dass nach Floridas Gesetzen zur Beihilfe und Anstiftung "wenn ChatGPT eine Person wäre", es ebenfalls "wegen Mordes angeklagt werden würde". OpenAIs Sprecherin Kate Waters bot die vorhersehbare Unternehmensentgegnung: "ChatGPT ist nicht für dieses schreckliche Verbrechen verantwortlich."
Uthmeier begibt sich jedoch in dieses "unbekannte Terrain", weil er sich um zunehmende, mit Chatbots verbundene öffentliche Sicherheitsrisiken sorgt, darunter Selbstmord, Materialien zum sexuellen Missbrauch von Kindern, Betrug und Mord. Er will definitiv wissen, ob Unternehmen wie OpenAI haftbar sind, wenn ihre Produkte angeblich Schaden verursachen. "Florida geht bei der Bekämpfung der Nutzung von KI für kriminelles Verhalten voran", erklärte er und stellte die Untersuchung als notwendige Kontrolle der Unternehmensmacht dar.
Die beunruhigenden Details, so Uthmeier, umfassen, dass ChatGPT den mutmaßlichen Schützen darüber beriet, welche Art von Waffe und Munition zu verwenden sei und ob eine Waffe auf kurze Distanz nützlich wäre. Noch hinterhältiger: Der Bot soll über die beste Tageszeit beraten haben, um Menschenmengen auf dem Campus zu finden, und wo sich höhere Konzentrationen von Studenten versammeln. Floridas Beamte scheinen zu glauben, dass dies zeigt, wie KI öffentliche Daten auf neuartige, schädliche Weise kombinieren kann, was Unternehmen erkennen und abmildern sollten.
Um Antworten zu erhalten, hat Uthmeier Vorladungen erlassen, die eine breite Palette von OpenAIs Richtlinien, internen Schulungsmaterialien und sogar Organigrammen fordern. Er ist entschlossen herauszufinden, "wer was wusste, was entworfen hat oder was hätte wissen müssen", wenn böswillige Akteure ChatGPT zur Planung von Verbrechen nutzen. Seine Position ist klar: Wenn OpenAIs Führung von kriminellen Aktivitäten wusste und Profite über die öffentliche Sicherheit stellte, "dann müssen Menschen zur Verantwortung gezogen werden".
OpenAI seinerseits behält eine Haltung hilfreicher Unschuld bei. Waters erklärte, das Unternehmen habe früh kooperiert, das ChatGPT-Konto des Verdächtigen identifiziert und mit den Strafverfolgungsbehörden geteilt. Die Kernverteidigung des Unternehmens ist, dass ChatGPT lediglich "faktische Antworten auf Fragen mit Informationen gab, die allgemein in öffentlichen Quellen im Internet zu finden sind", und keine illegalen Aktivitäten ermutigte. Waters merkte auch an, dass ChatGPT ein "Allzweckwerkzeug ist, das täglich von Hunderten Millionen Menschen für legitime Zwecke genutzt wird".
In einer Wendung, die darauf hindeutet, dass selbst OpenAI das Imageproblem sieht, enthüllte Uthmeier, dass das Unternehmen "angedeutet hat, dass sie glauben, dass Verbesserungen und Änderungen notwendig sind", um das Potenzial von ChatGPT, Massenschießereien zu beraten, einzuschränken. "Ich hoffe, sie haben recht", sagte Uthmeier zweimal zur Betonung. "Wir können keine KI-Bots haben, die Menschen beraten, wie sie andere töten können." Waters äußerte sich nicht zu spezifischen Aktualisierungen, sondern wiederholte die kontinuierliche Arbeit des Unternehmens, "unsere Schutzmaßnahmen zu stärken".