Anthropic, företaget bakom AI-chattboten Claude, har varnat för att artificiell intelligens kan utgöra "katastrofala eller existentiella risker för mänskligheten" – en mening som det snyggt och prydligt stoppade in i pappersarbetet för sin planerade storslagna börsnotering i USA, förmodligen precis mellan riskfaktorerna och fotnoterna.

Ansökan avslöjade förluster på över 80,7 miljarder dollar (60,5 miljarder pund) under årets första halvår, tillsammans med 112,4 miljarder dollar i kontanter eller motsvarande och intäkter på 16,3 miljarder dollar under samma period. Antalet aktier som ska släppas, deras prisintervall och ett datum för noteringen har inte offentliggjorts, för varför förstöra ett bra mysterium.

Anthropics värdering vid börsnoteringen har förväntats överstiga SpaceX, som i somras blev den största börsnoteringen någonsin med en initial värdering på cirka 1,8 biljoner dollar. Ingen press.

I ansökan uppgav Anthropic att farhågor hade rests av beslutsfattare, tillsynsmyndigheter och forskare – såväl som av personer inom den egna organisationen – om att AI-system utgjorde en betydande risk för mänskligheten. Företaget sade att avancerade AI-system "skulle kunna, om de inte utvecklas, distribueras och drivs med lämpliga skyddsåtgärder, tillsyn och säkerhetsåtgärder, utgöra katastrofala eller existentiella risker för mänskligheten, särskilt om sådana system missbrukades, replikerades, vapeniserades eller tilläts verka med en hög grad av autonomi." Investerare rekommenderas att läsa den meningen två gånger och sedan kanske lägga sig ner.

Anthropic blir det första egentliga AI-företaget att gå till börsen, vilket gör det till ett testfall för teknikens framtid. Företaget sade att det kommer att noteras på Nasdaq under symbolen ANT, vilket åtminstone är betryggande litet.

Anthropic grundades för bara fem år sedan av vd Dario Amodei, hans syster Daniela Amodei och fem andra medgrundare, och meddelade i juni sin avsikt att gå till börsen. Dess mest betydande rival, OpenAI, följde snabbt efter och sade att även de avsåg att gå till börsen – den noteringen förväntas nu i början av nästa år, enligt en person som är bekant med OpenAIs planer. Inget säger förtroende som en kapplöpning mot utgången.

Efter att företagen fattat sådana beslut inträffade en våg av cybersäkerhets- och andra tekniska intrång som involverade deras AI-agenter, eller AI-botar utformade för att fungera något autonomt. Nuvarande och tidigare anställda på båda företagen fick också offentlig uppmärksamhet med nya varningar om att AI-teknik utvecklades utan förmåga att skydda hela mänskligheten från möjliga framtida skador orsakade av AI-verktyg. Tidpunkten beskrevs av observatörer som "inte idealisk".

I Anthropics nya dokument upprepade företaget löften att utveckla AI på ett sätt som är fördelaktigt för människor, samtidigt som det varnade investerare för dess faror. I sina finansiella rapporter detaljerade Anthropic förluster som översteg intäkterna för första halvåret, men sade att det ofta skulle göra framåtriktade investeringar "som vid första anblicken kan verka oansvarigt stora". Vid andra anblicken ser de tydligen bra ut.

"I allmänhet kommer vi att sträva efter att vara djärva men sansade, och att vinna förtroende med en meritlista av framgångsrika satsningar", sade teknikjätten och satte en låg ribba för att sedan artigt kliva över den.

Dess framgång beror till stor del på förmågan att utveckla de mest avancerade AI-modellerna, sade Anthropic och tillade att "varje misslyckande med att göra det skulle kunna påverka vår verksamhet negativt" – ett avslöjande som rankas någonstans mellan "vatten är blött" och "solen går upp i öster" på skalan för företagsavslöjanden.

Teknikföretag har investerat tungt i kostsamma AI-infrastrukturer och verktyg, som datacenter och de informationsmodeller som ligger till grund för all AI-teknik, och pumpat in över 1 biljon dollar i ansträngningarna bara det senaste året. För inget säger "vi är försiktiga" som en biljon-dollar-sprint.