AI 基础设施初创公司 Infinity 以 1 亿美元估值融资 1500 万美元,投资方包括 Touring Capital、Principal VC 以及来自 OpenAI 和 Anthropic 的研究人员。该公司致力于削弱 Nvidia 在 AI 芯片市场的垄断地位——或者说,让这种垄断不那么令人窒息——通过构建软件,使 AI 模型能在任何芯片上运行,而不仅仅是 Nvidia 的芯片。

Nvidia 的统治地位不仅源于其强大的 GPU,还在于 CUDA——这个将图形处理器转变为通用计算工作马的软件层。PyTorch 和 TensorFlow 等主流 AI 框架都建立在 CUDA 之上,这意味着用 Python 编写的应用会自动默认使用 Nvidia 芯片。大多数初创公司缺乏资源来编写自己的底层内核软件,以将应用移植到替代芯片上。Infinity 旨在成为 CUDA 的替代品,创建一个通用的推理库,适用于 SRAM、GPU、手机芯片和脉动阵列。它是一波初创公司中的一员,正逐个产品地蚕食 Nvidia 的市场份额。

Infinity 由前 Google Brain 研究员、黑客网络 AGI House 的创始人 Jeremy Nixon 于去年创立,源于 Nixon 对“自动发明”的痴迷。他之前发明了一种名为 Omega 的机器学习算法,该算法能在反馈循环中自动生成和评估新算法。这一成功让他转向硬件领域,他相信自动化系统可以生成更高效运行芯片所需的底层代码。

Infinity 的 AI 研究代理 Ignition 为非 Nvidia 芯片编写 AI 推理的底层代码。它测试、调试、测量性能,并根据需要重写代码,不断学习和适应不同的芯片架构。Nixon 声称,其结果是一个达到 CUDA 级别的软件栈。客户包括 AI 芯片制造商、Nvidia 的挑战者 D-Matrix,Infinity 正在与其他大型芯片和云公司洽谈。

人类仍然提供高层指导,但 Ignition 处理繁重的工作。在一个案例研究中,该代理将原本可能需要数年的过程缩短到了几小时或几天。Infinity 不收取前期许可费,而是从性能提升和成本节约中分成,以每秒 token 数衡量。公司目前有 26 名员工,涵盖设计、运营和工程。