Anthropic, het bedrijf achter AI-chatbot Claude, heeft gewaarschuwd dat kunstmatige intelligentie "catastrofale of existentiële risico's voor de mensheid" zou kunnen vormen - een zin die het netjes wegstopte in de papieren voor zijn geplande blockbuster-notering op de Amerikaanse beurs, vermoedelijk precies tussen de risicofactoren en de voetnoten.

De aanvraag onthulde verliezen van meer dan $80,7 miljard (£60,5 miljard) in de eerste helft van het jaar, naast $112,4 miljard aan cash of equivalenten en een omzet van $16,3 miljard over dezelfde periode. Het aantal uit te geven aandelen, de prijsrange en een datum voor de notering zijn niet bekendgemaakt, want waarom zou je een goed mysterie verpesten.

De waardering van Anthropic bij de beursgang zal naar verwachting die van SpaceX overtreffen, dat deze zomer de grootste beursnotering ooit werd met een initiële waardering van ongeveer $1,8 biljoen. Geen druk.

In de aanvraag zei Anthropic dat er zorgen waren geuit door beleidsmakers, toezichthouders en onderzoekers - evenals door mensen binnen zijn eigen organisatie - dat AI-systemen een aanzienlijk risico voor de mensheid vormen. Het zei dat geavanceerde AI-systemen "catastrofale of existentiële risico's voor de mensheid zouden kunnen vormen als ze niet met passende waarborgen, toezicht en beveiligingsmaatregelen worden ontwikkeld, ingezet en beheerd, vooral als dergelijke systemen worden misbruikt, gerepliceerd, bewapend of een hoge mate van autonomie krijgen." Beleggers wordt aangeraden die zin twee keer te lezen en daarna misschien even te gaan liggen.

Anthropic wordt het eerste echte AI-bedrijf dat naar de beurs gaat, waarmee het een testcase wordt voor de toekomst van de technologie. Het zei te zullen noteren op de Nasdaq onder het symbool ANT, wat tenminste geruststellend klein is.

Anthropic, slechts vijf jaar geleden opgericht door CEO Dario Amodei, zijn zus Daniela Amodei en vijf andere medeoprichters, kondigde in juni zijn voornemen aan om naar de beurs te gaan. Zijn belangrijkste rivaal, OpenAI, volgde snel en zei ook naar de beurs te willen - die notering wordt nu begin volgend jaar verwacht, volgens een persoon die bekend is met de plannen van OpenAI. Niets zegt vertrouwen als een race naar de uitgang.

Nadat de bedrijven zulke plannen hadden besloten, vond een golf van cyberbeveiligings- en andere technologische inbreuken plaats waarbij hun AI-agenten betrokken waren, of AI-bots die ontworpen zijn om enigszins autonoom te opereren. Huidige en voormalige medewerkers van beide bedrijven trokken ook publieke aandacht met nieuwe waarschuwingen dat AI-technologie werd ontwikkeld zonder het vermogen om de hele mensheid te beschermen tegen mogelijke toekomstige schade door AI-tools. De timing werd door waarnemers beschreven als "niet ideaal".

In de nieuwe documenten van Anthropic herhaalde het zijn beloften om AI te ontwikkelen op een manier die gunstig is voor mensen, terwijl het tegelijkertijd beleggers waarschuwde voor de gevaren ervan. In zijn financiële rapporten detailleerde Anthropic verliezen die zijn omzet in de eerste helft van het jaar overtroffen, maar zei dat het vaak vooruitinvesteringen zou doen "die op het eerste gezicht onverantwoord groot lijken." Bij de tweede blik zien ze er blijkbaar prima uit.

"Over het algemeen streven we ernaar stoutmoedig maar verstandig te zijn, en vertrouwen te winnen met een trackrecord van succesvolle weddenschappen," zei de techgigant, waarmee het de lat laag legde en er vervolgens beleefd overheen stapte.

Het succes hangt grotendeels af van zijn vermogen om de meest geavanceerde AI-modellen te ontwikkelen, zei Anthropic, en voegde eraan toe dat "elk falen daarin onze bedrijfsvoering nadelig kan beïnvloeden" - een onthulling die ergens tussen "water is nat" en "de zon komt op in het oosten" staat op de schaal van bedrijfsrevelaties.

Techbedrijven hebben zwaar geïnvesteerd in kostbare AI-infrastructuur en -tools, zoals datacenters en de informatiemodellen die aan alle AI-technologie ten grondslag liggen, en hebben alleen al in het afgelopen jaar meer dan $1 biljoen in de inspanningen gepompt. Want niets zegt "we zijn voorzichtig" als een sprint van een biljoen dollar.