AIインフラスタートアップInfinityは、Touring Capital、Principal VC、そしてOpenAIやAnthropicの研究者からの支援を受け、1億ドルの評価額で1500万ドルを調達した。同社の使命は、NvidiaのAIチップ市場における支配力を少し緩めること。そのために、Nvidiaのチップだけでなく、あらゆるチップでAIモデルを実行できるソフトウェアを構築している。

Nvidiaの優位性は強力なGPUだけではなく、グラフィックスプロセッサを汎用コンピューティングの主力に変えるソフトウェア層CUDAにもある。PyTorchやTensorFlowといった主要なAIフレームワークはCUDA上に構築されており、Pythonで書かれたアプリは自動的にNvidiaチップをデフォルトとする。ほとんどのスタートアップには、アプリを代替チップに移植するための低レベルカーネルソフトウェアを自前で書くリソースがない。InfinityはCUDAの代替として、SRAM、GPU、フォンチップ、Systolic Array全体で動作するユニバーサル推論ライブラリを目指す。これは、Nvidiaの市場シェアを少しずつ削るスタートアップの波の一部だ。

昨年、元Google Brain研究者でハッカーネットワークAGI Houseの創設者Jeremy Nixonによって設立されたInfinityは、Nixonの「自動発明」への執着から生まれた。彼は以前、機械学習アルゴリズムOmegaを発明。これはフィードバックループで新しいアルゴリズムを自動生成・評価するものだ。その成功がハードウェアへと導き、自動化システムがチップをより効果的に動作させる低レベルコードを生成できると確信した。

InfinityのAIリサーチエージェントIgnitionは、非Nvidiaチップ向けのAI推論用低レベルコードを記述する。テスト、デバッグ、パフォーマンス測定、コード書き換えを自律的に行い、異なるチップアーキテクチャに継続的に学習・適応する。その結果、NixonによればCUDAレベルのソフトウェアスタックが得られる。顧客にはNvidiaに挑戦するAIチップメーカーD-Matrixが含まれ、Infinityは他の大手チップ・クラウド企業とも交渉中だ。

人間は依然として高レベルの指示を提供するが、Ignitionが雑務を処理する。あるケーススタディでは、エージェントは数年かかるプロセスを数時間または数日に短縮した。Infinityは初期ライセンス料を請求せず、代わりにパフォーマンス向上とコスト削減の一部を、トークン/秒で測定される形で受け取る。現在、従業員は設計、運用、エンジニアリングを含めて26名。