Anthropic, компания, стоящая за ИИ-чатботом Claude, предупредила, что искусственный интеллект может представлять «катастрофические или экзистенциальные риски для человечества» — фразу, которую она аккуратно вписала в документы для планируемого громкого листинга на фондовом рынке США, предположительно прямо между факторами риска и сносками.

В заявке сообщается об убытках более 80,7 млрд долларов (60,5 млрд фунтов) за первое полугодие, а также о 112,4 млрд долларов денежных средств или их эквивалентов и выручке в 16,3 млрд долларов за тот же период. Количество акций к выпуску, их ценовой диапазон и дата листинга не раскрываются — зачем портить хорошую загадку.

Ожидается, что оценка Anthropic при выходе на биржу превысит оценку SpaceX, которая этим летом стала крупнейшим в истории фондовым листингом с первоначальной оценкой около 1,8 трлн долларов. Без давления.

В заявке Anthropic сообщила, что политики, регуляторы и исследователи, а также люди внутри самой организации выражали обеспокоенность тем, что системы ИИ представляют значительный риск для человечества. Компания заявила, что передовые системы ИИ «могут, если их не разрабатывать, не внедрять и не эксплуатировать с надлежащими мерами защиты, надзора и безопасности, создавать катастрофические или экзистенциальные риски для человечества, особенно если такие системы будут неправильно использоваться, тиражироваться, превращаться в оружие или получат возможность действовать с высокой степенью автономии». Инвесторам рекомендуется прочитать это предложение дважды, а затем, возможно, прилечь.

Anthropic станет первой настоящей ИИ-компанией, выходящей на биржу, что делает ее тестовым примером для будущего технологии. Компания заявила, что будет котироваться на Nasdaq под тикером ANT, что, по крайней мере, успокаивающе коротко.

Основанная всего пять лет назад генеральным директором Дарио Амодеи, его сестрой Даниэлой Амодеи и пятью другими соучредителями, Anthropic объявила о намерении выйти на биржу в июне. Ее самый значительный конкурент OpenAI быстро последовал примеру, заявив, что также намерен провести IPO — теперь этот листинг ожидается в начале следующего года, по словам человека, знакомого с планами OpenAI. Ничто так не говорит об уверенности, как гонка к выходу.

После того как компании приняли такие планы, произошла волна кибербезопасностных и других технологических нарушений с участием их ИИ-агентов, или ИИ-ботов, предназначенных для работы в некоторой степени автономно. Нынешние и бывшие сотрудники обеих компаний также привлекли внимание общественности новыми предупреждениями о том, что технология ИИ разрабатывается без возможности защитить все человечество от возможного будущего вреда, причиняемого инструментами ИИ. Время было описано наблюдателями как «не идеальное».

В новых документах Anthropic подтвердила обещания развивать ИИ таким образом, чтобы это приносило пользу людям, одновременно предупреждая инвесторов о его опасностях. В своих финансовых отчетах Anthropic подробно описала убытки, превысившие ее выручку за первое полугодие, но заявила, что часто будет делать перспективные инвестиции, «которые на первый взгляд могут показаться безответственно большими». На второй взгляд, по-видимому, они выглядят нормально.

«В целом мы будем стремиться быть смелыми, но здравомыслящими и завоевывать доверие послужным списком успешных ставок», — заявил технологический гигант, установив низкую планку и затем вежливо перешагнув через нее.

Его успех во многом зависит от способности разрабатывать самые передовые модели ИИ, заявила Anthropic, добавив, что «любая неудача в этом может негативно повлиять на наш бизнес» — раскрытие, которое на шкале корпоративных откровений находится где-то между «вода мокрая» и «солнце встает на востоке».

Технологические компании активно инвестируют в дорогостоящую инфраструктуру и инструменты ИИ, такие как центры обработки данных и информационные модели, лежащие в основе всех технологий ИИ, вложив более 1 трлн долларов в эти усилия только за последний год. Потому что ничто так не говорит «мы осторожны», как триллионный спринт.