Anthropic beantragt Börsengang und warnt, dass das eigene Produkt die Menschheit auslöschen könnte

Anthropic, das Unternehmen hinter dem KI-Chatbot Claude, hat gewarnt, dass künstliche Intelligenz „katastrophale oder existenzielle Risiken für die Menschheit“ darstellen könnte – ein Satz, den es ordentlich in die Unterlagen für seinen geplanten Blockbuster-Börsengang in den USA eingebettet hat, vermutlich direkt zwischen den Risikofaktoren und den Fußnoten.

Die Einreichung offenbarte Verluste von mehr als 80,7 Mrd. $ (60,5 Mrd. £) im ersten Halbjahr, zusammen mit 112,4 Mrd. $ an Bargeld oder Äquivalenten und Einnahmen von 16,3 Mrd. $ im gleichen Zeitraum. Die Anzahl der auszugebenden Aktien, ihre Preisspanne und ein Termin für die Notierung wurden nicht bekannt gegeben – warum auch ein gutes Rätsel verderben.

Es wird erwartet, dass Anthropics Bewertung beim Börsengang die von SpaceX übertreffen wird, das diesen Sommer mit einer anfänglichen Bewertung von etwa 1,8 Billionen $ zur größten Börsennotierung aller Zeiten wurde. Kein Druck.

In der Einreichung erklärte Anthropic, dass Bedenken von politischen Entscheidungsträgern, Regulierern und Forschern – sowie von Personen innerhalb der eigenen Organisation – geäußert wurden, dass KI-Systeme ein erhebliches Risiko für die Menschheit darstellen. Es hieß, fortgeschrittene KI-Systeme „könnten, wenn sie nicht mit angemessenen Schutzmaßnahmen, Aufsicht und Sicherheitsvorkehrungen entwickelt, eingesetzt und betrieben werden, katastrophale oder existenzielle Risiken für die Menschheit darstellen, insbesondere wenn solche Systeme missbraucht, repliziert, bewaffnet oder mit einem hohen Maß an Autonomie betrieben würden.“ Investoren wird geraten, diesen Satz zweimal zu lesen und sich dann vielleicht hinzulegen.

Anthropic wird das erste echte KI-Unternehmen sein, das an die Börse geht, und damit ein Testfall für die Zukunft der Technologie. Es kündigte an, unter dem Symbol ANT an der Nasdaq notiert zu werden, was zumindest beruhigend klein ist.

Gegründet vor nur fünf Jahren von CEO Dario Amodei, seiner Schwester Daniela Amodei und fünf weiteren Mitgründern, kündigte Anthropic im Juni seine Absicht an, an die Börse zu gehen. Sein bedeutendster Rivale, OpenAI, zog schnell nach und erklärte, ebenfalls einen Börsengang anzustreben – dieser wird nun laut einer mit den Plänen von OpenAI vertrauten Person für Anfang nächsten Jahres erwartet. Nichts sagt Vertrauen wie ein Wettlauf zum Ausgang.

Nachdem die Unternehmen solche Pläne beschlossen hatten, kam es zu einer Welle von Cyber-Sicherheits- und anderen technologischen Verstößen im Zusammenhang mit ihren KI-Agenten oder KI-Bots, die darauf ausgelegt sind, einigermaßen autonom zu agieren. Aktuelle und ehemalige Mitarbeiter beider Unternehmen erregten ebenfalls öffentliche Aufmerksamkeit mit neuen Warnungen, dass KI-Technologie ohne die Fähigkeit entwickelt werde, die gesamte Menschheit vor möglichen zukünftigen Schäden durch KI-Tools zu schützen. Das Timing wurde von Beobachtern als „nicht ideal“ beschrieben.

In den neuen Dokumenten von Anthropic bekräftigte das Unternehmen sein Versprechen, KI auf eine für Menschen vorteilhafte Weise zu entwickeln, während es gleichzeitig Investoren vor ihren Gefahren warnte. In seinen Finanzunterlagen detaillierte Anthropic Verluste, die im ersten Halbjahr die Einnahmen überstiegen, erklärte aber, oft Vorwärtsinvestitionen zu tätigen, „die auf den ersten Blick unverantwortlich groß erscheinen mögen“. Auf den zweiten Blick sehen sie offenbar gut aus.

„Im Allgemeinen werden wir danach streben, kühn, aber vernünftig zu sein und Vertrauen durch eine Erfolgsbilanz erfolgreicher Wetten zu gewinnen“, sagte der Tech-Gigant, setzte die Latte niedrig und stieg dann höflich darüber.

Sein Erfolg hängt weitgehend von seiner Fähigkeit ab, die fortschrittlichsten KI-Modelle zu entwickeln, sagte Anthropic und fügte hinzu, dass „jedes Versäumnis dabei unser Geschäft beeinträchtigen könnte“ – eine Offenlegung, die auf der Skala der Unternehmensenthüllungen irgendwo zwischen „Wasser ist nass“ und „die Sonne geht im Osten auf“ rangiert.

Tech-Unternehmen haben stark in kostspielige KI-Infrastruktur und -Tools investiert, wie Rechenzentren und die Informationsmodelle, die aller KI-Technologie zugrunde liegen, und allein im letzten Jahr mehr als 1 Billion $ in diese Bemühungen gepumpt. Denn nichts sagt „wir sind vorsichtig“ wie ein Billionen-Dollar-Sprint.