Anthropic, firma stojąca za chatbotem AI Claude, ostrzegła, że sztuczna inteligencja może stwarzać "katastrofalne lub egzystencjalne ryzyko dla ludzkości" – zdanie, które zgrabnie wcisnęła do dokumentacji swojego planowanego głośnego debiutu na amerykańskim rynku akcji, przypuszczalnie tuż między czynnikami ryzyka a przypisami.

Dokument ujawnił straty przekraczające 80,7 mld dolarów (60,5 mld funtów) w pierwszej połowie roku, obok 112,4 mld dolarów w gotówce lub ekwiwalentach i przychodów w wysokości 16,3 mld dolarów w tym samym okresie. Liczba akcji do emisji, ich przedział cenowy i data debiutu nie zostały ujawnione, bo po co psuć dobrą tajemnicę.

Oczekuje się, że wycena Anthropic w momencie wejścia na giełdę przekroczy wycenę SpaceX, które tego lata stało się największym w historii debiutem giełdowym z początkową wyceną około 1,8 biliona dolarów. Bez presji.

W dokumencie Anthropic podała, że obawy zgłosili decydenci, regulatorzy i badacze – a także osoby z jej własnej organizacji – że systemy AI stwarzają znaczące ryzyko dla ludzkości. Firma stwierdziła, że zaawansowane systemy AI "mogłyby, gdyby nie zostały opracowane, wdrożone i obsługiwane z odpowiednimi zabezpieczeniami, nadzorem i środkami bezpieczeństwa, stwarzać katastrofalne lub egzystencjalne ryzyko dla ludzkości, szczególnie gdyby takie systemy były niewłaściwie wykorzystywane, replikowane, uzbrajane lub pozwolono im działać z wysokim stopniem autonomii". Inwestorom zaleca się przeczytać to zdanie dwa razy, a potem może się położyć.

Anthropic będzie pierwszą prawdziwą firmą AI, która wejdzie na giełdę, co czyni ją przypadkiem testowym dla przyszłości technologii. Firma podała, że zadebiutuje na Nasdaq pod symbolem ANT, co jest przynajmniej pocieszająco krótkie.

Założona zaledwie pięć lat temu przez dyrektora generalnego Dario Amodei, jego siostrę Danielę Amodei i pięciu innych współzałożycieli, Anthropic ogłosiła zamiar wejścia na giełdę w czerwcu. Jej najważniejszy rywal, OpenAI, szybko poszedł w jej ślady, mówiąc, że również zamierza wejść na giełdę – ten debiut jest obecnie oczekiwany na początku przyszłego roku, według osoby zaznajomionej z planami OpenAI. Nic tak nie mówi o pewności siebie jak wyścig do wyjścia.

Po tym, jak firmy zdecydowały się na takie plany, nastąpiła fala naruszeń cyberbezpieczeństwa i innych przełamań technologicznych z udziałem ich agentów AI, czyli botów AI zaprojektowanych do działania w pewnym stopniu autonomicznie. Obecni i byli pracownicy obu firm zwrócili również uwagę publiczną nowymi ostrzeżeniami, że technologia AI jest rozwijana bez zdolności ochrony całej ludzkości przed możliwymi przyszłymi szkodami wyrządzonymi przez narzędzia AI. Timing został opisany przez obserwatorów jako "nieidealny".

W nowych dokumentach Anthropic powtórzyła obietnice rozwijania AI w sposób korzystny dla ludzi, jednocześnie ostrzegając inwestorów przed jej niebezpieczeństwami. W swoich sprawozdaniach finansowych Anthropic szczegółowo opisała straty, które przekroczyły jej przychody w pierwszej połowie roku, ale stwierdziła, że często będzie dokonywać inwestycji wyprzedzających, "które na pierwszy rzut oka mogą wydawać się nieodpowiedzialnie duże". Na drugi rzut oka, najwyraźniej, wyglądają dobrze.

"Ogólnie rzecz biorąc, będziemy dążyć do bycia odważnymi, ale rozsądnymi i do zdobywania zaufania dzięki historii udanych zakładów" – powiedział technologiczny gigant, ustawiając nisko poprzeczkę, a następnie uprzejmie ją przekraczając.

Jej sukces zależy w dużej mierze od zdolności do opracowania najbardziej zaawansowanych modeli AI, podała Anthropic, dodając, że "jakiekolwiek niepowodzenie w tym zakresie może niekorzystnie wpłynąć na nasz biznes" – ujawnienie, które plasuje się gdzieś między "woda jest mokra" a "słońce wschodzi na wschodzie" w skali korporacyjnych rewelacji.

Firmy technologiczne intensywnie inwestują w kosztowną infrastrukturę i narzędzia AI, takie jak centra danych i modele informacyjne leżące u podstaw całej technologii AI, wlewając w te wysiłki ponad 1 bilion dolarów tylko w ciągu ostatniego roku. Bo nic tak nie mówi "jesteśmy ostrożni" jak sprint za bilion dolarów.