Anthropic, l'azienda dietro il chatbot AI Claude, ha avvertito che l'intelligenza artificiale potrebbe rappresentare "rischi catastrofici o esistenziali per l'umanità" – una frase che ha infilato accuratamente nelle scartoffie per la sua programmata quotazione miliardaria sul mercato azionario statunitense, presumibilmente proprio tra i fattori di rischio e le note a piè di pagina.

Il documento ha rivelato perdite superiori a 80,7 miliardi di dollari (60,5 miliardi di sterline) nella prima metà dell'anno, insieme a 112,4 miliardi di dollari in contanti o equivalenti e ricavi di 16,3 miliardi di dollari nello stesso periodo. Il numero di azioni da emettere, la loro fascia di prezzo e una data per la quotazione non sono stati divulgati, perché mai rovinare un buon mistero.

Si prevede che la valutazione di Anthropic al momento dell'IPO supererà quella di SpaceX, che questa estate è diventata la più grande quotazione azionaria di sempre con una valutazione iniziale di circa 1,8 trilioni di dollari. Nessuna pressione.

Nel documento, Anthropic ha affermato che preoccupazioni erano state sollevate da politici, regolatori e ricercatori – così come da persone all'interno della propria organizzazione – sul fatto che i sistemi di AI rappresentassero un rischio significativo per l'umanità. Ha affermato che i sistemi di AI avanzati "potrebbero, se non sviluppati, implementati e gestiti con adeguate salvaguardie, supervisione e misure di sicurezza, rappresentare rischi catastrofici o esistenziali per l'umanità, in particolare se tali sistemi fossero usati in modo improprio, replicati, trasformati in armi o autorizzati a operare con un alto grado di autonomia." Gli investitori sono invitati a leggere quella frase due volte e poi magari a sdraiarsi.

Anthropic sarà la prima vera azienda di AI a quotarsi in borsa, rendendola un caso di prova per il futuro della tecnologia. Ha detto che si quoterà al Nasdaq con il simbolo ANT, che è almeno rassicurantemente breve.

Fondata appena cinque anni fa dal CEO Dario Amodei, da sua sorella Daniela Amodei e da altri cinque co-fondatori, Anthropic ha annunciato la sua intenzione di quotarsi in borsa a giugno. Il suo rivale più significativo, OpenAI, ha rapidamente seguito l'esempio, dichiarando che anche lei intendeva quotarsi – quella quotazione è ora attesa per l'inizio del prossimo anno, secondo una persona vicina ai piani di OpenAI. Niente dice fiducia come una corsa all'uscita.

Dopo che le aziende hanno deciso tali piani, si è verificata un'ondata di violazioni della sicurezza informatica e di altro tipo tecnologico che hanno coinvolto i loro agenti di AI, o bot AI progettati per operare in modo parzialmente autonomo. Anche membri attuali e passati del personale di entrambe le aziende hanno attirato l'attenzione pubblica con nuovi avvertimenti che la tecnologia AI veniva sviluppata senza la capacità di proteggere l'intera umanità da possibili danni futuri causati da strumenti di AI. Il tempismo è stato descritto dagli osservatori come "non ideale".

Nei nuovi documenti di Anthropic, l'azienda ha ribadito le promesse di sviluppare l'AI in modo benefico per le persone, mentre contemporaneamente avvertiva gli investitori dei suoi pericoli. Nei suoi documenti finanziari, Anthropic ha dettagliato perdite che hanno superato i suoi ricavi per la prima metà dell'anno, ma ha detto che spesso effettuerà investimenti anticipati "che a prima vista possono sembrare irresponsabilmente grandi". A seconda vista, apparentemente, sembrano a posto.

"In generale, mireremo a essere audaci ma assennati, e a conquistare la fiducia con un track record di scommesse riuscite", ha affermato il gigante tecnologico, fissando un'asticella bassa e poi superandola educatamente.

Il suo successo dipende in gran parte dalla sua capacità di sviluppare i modelli di AI più avanzati, ha affermato Anthropic, aggiungendo che "qualsiasi fallimento nel farlo potrebbe influire negativamente sul nostro business" – una dichiarazione che si colloca da qualche parte tra "l'acqua è bagnata" e "il sole sorge a est" sulla scala delle rivelazioni aziendali.

Le aziende tecnologiche hanno investito pesantemente in costose infrastrutture e strumenti di AI, come data center e i modelli informativi che sono alla base di tutta la tecnologia AI, riversando più di 1 trilione di dollari negli sforzi solo nell'ultimo anno. Perché niente dice "stiamo attenti" come uno sprint da un trilione di dollari.