Стартап в области AI-инфраструктуры Infinity привлек $15 млн при оценке в $100 млн при поддержке Touring Capital, Principal VC и исследователей из OpenAI и Anthropic. Компания намерена ослабить хватку Nvidia на рынке AI-чипов, создав программное обеспечение, позволяющее запускать модели AI на любых чипах, а не только на чипах Nvidia.

Доминирование Nvidia связано не только с мощными GPU, но и с CUDA — программным слоем, превращающим графические процессоры в универсальные вычислительные рабочие лошадки. Основные AI-фреймворки, такие как PyTorch и TensorFlow, построены на CUDA, поэтому приложения, написанные на Python, автоматически ориентируются на чипы Nvidia. Большинство стартапов не имеют ресурсов для написания собственного низкоуровневого ядерного ПО для переноса приложений на альтернативные чипы. Infinity стремится стать альтернативой CUDA, создав универсальную библиотеку инференса, работающую на SRAM, GPU, телефонных чипах и систолических массивах. Это часть волны стартапов, постепенно откусывающих долю рынка Nvidia.

Основанный в прошлом году Джереми Никсоном, бывшим исследователем Google Brain и создателем хакерской сети AGI House, Infinity родилась из одержимости Никсона «автоматизированным изобретением». Ранее он изобрел алгоритм машинного обучения Omega, который автоматически генерировал и оценивал новые алгоритмы в цикле обратной связи. Этот успех привел его к аппаратному обеспечению, где, по его мнению, автоматизированные системы могли бы генерировать низкоуровневый код, необходимый для более эффективной работы чипов.

AI-исследовательский агент Infinity, Ignition, пишет низкоуровневый код для AI-инференса на не-Nvidia чипах. Он тестирует, отлаживает, измеряет производительность и переписывает код по мере необходимости, постоянно обучаясь и адаптируясь к различным архитектурам чипов. Результат, по словам Никсона, — программный стек уровня CUDA. Среди клиентов — D-Matrix, производитель AI-чипов и конкурент Nvidia, а Infinity ведет переговоры с другими крупными чип- и облачными компаниями.

Люди по-прежнему задают общее направление, но Ignition выполняет черновую работу. В одном примере агент сократил то, что могло занять годы, до часов или дней. Infinity не взимает лицензионную плату upfront; вместо этого она получает долю от прироста производительности и экономии затрат, измеряемых в токенах в секунду. В компании currently 26 сотрудников, работающих в области дизайна, операций и инженерии.