AIチャットボット「Claude」の開発元であるAnthropicは、人工知能が「人類に壊滅的または存在論的なリスクをもたらす可能性がある」と警告した——この一文を、米国株式市場への大型上場計画の書類にきれいに忍ばせた。おそらくリスク要因と脚注のちょうど間に。

提出書類によると、今年上半期に807億ドル（約605億ポンド）超の損失を計上し、同時期に1,124億ドルの現金または同等物、163億ドルの収益があった。発行株式数、価格帯、上場日は開示されていない。せっかくの謎を台無しにする理由がないからだ。

Anthropicの上場時の評価額は、この夏に約1.8兆ドルの初期評価額で史上最大の株式上場となったSpaceXを超えると予想されている。プレッシャーはない。

提出書類の中でAnthropicは、政策立案者、規制当局、研究者、そして自社組織内の人々からも、AIシステムが人類に重大なリスクをもたらすとの懸念が提起されたと述べた。高度なAIシステムは「適切な保護措置、監督、セキュリティ対策を伴って開発、展開、運用されなければ、特にそのようなシステムが悪用、複製、兵器化、または高度な自律性をもって運用されることを許された場合、人類に壊滅的または存在論的なリスクをもたらす可能性がある」とした。投資家はこの文を二度読んで、それから横になることをお勧めする。

Anthropicは真の意味で最初のAI企業の上場となり、技術の未来を占う試金石となる。ナスダックに「ANT」のシンボルで上場すると述べており、少なくとも安心するほど小さい。

わずか5年前にCEOのダリオ・アモデイ氏、妹のダニエラ・アモデイ氏、他の5人の共同創業者によって設立されたAnthropicは、6月に上場の意向を発表した。最大のライバルであるOpenAIもすぐに追随し、同社も上場を目指すと述べた——OpenAIの計画に詳しい人物によると、その上場は現在来年初めと予想されている。出口への競争ほど自信を示すものはない。

両社がそのような計画を決定した後、彼らのAIエージェント、つまりある程度自律的に動作するように設計されたAIボットに関わるサイバーセキュリティやその他の技術的侵害が相次いだ。両社の現職・元スタッフも、AI技術がAIツールによる将来の害から全人類を守る能力なしに開発されているという新たな警告で注目を集めた。タイミングは観測筋によって「理想的ではない」と評された。

Anthropicの新しい文書では、人々に有益な方法でAIを開発するという約束を繰り返す一方で、同時に投資家にその危険性を警告している。財務開示の中でAnthropicは、上半期の損失が収益を超えたと詳述したが、しばしば「一見したところ無責任に思えるほど大きな」先行投資を行うと述べた。二見したところ、どうやら問題ないらしい。

「一般的に、私たちは大胆だが正気であることを目指し、成功した賭けの実績で信頼を勝ち取るつもりです」とこのテック巨人は述べ、低い基準を設定してから丁寧にそれを飛び越えた。

その成功は主に最先端のAIモデルを開発する能力にかかっており、「そうできなければ当社の事業に悪影響を及ぼす可能性がある」とAnthropicは付け加えた——企業の暴露の尺度で言えば、「水は濡れている」と「太陽は東から昇る」の間くらいの開示である。

テック企業はデータセンターやすべてのAI技術の基盤となる情報モデルなど、高価なAIインフラとツールに多額の投資を続けており、過去1年間だけで1兆ドル以上を注ぎ込んだ。なぜなら「私たちは慎重にやっています」と言うのに、1兆ドルの疾走ほどふさわしいものはないからだ。