Startup infrastruktury AI Infinity zebrał 15 milionów dolarów przy wycenie 100 milionów dolarów, przy wsparciu Touring Capital, Principal VC oraz badaczy z OpenAI i Anthropic. Firma ma misję, by uścisk Nvidii na rynku chipów AI stał się nieco mniej duszący – tworzy oprogramowanie, które pozwala modelom AI działać na dowolnym chipie, nie tylko Nvidii.

Dominacja Nvidii to nie tylko potężne GPU; to także CUDA – warstwa oprogramowania, która zamienia procesory graficzne w uniwersalne konie robocze do obliczeń ogólnego przeznaczenia. Główne frameworki AI, takie jak PyTorch i TensorFlow, są zbudowane na CUDA, co oznacza, że aplikacje napisane w Pythonie domyślnie wybierają chipy Nvidii. Większość startupów nie ma zasobów, by pisać własne niskopoziomowe oprogramowanie jądra, aby przenosić aplikacje na alternatywne chipy. Infinity ma być alternatywą dla CUDA, tworząc uniwersalną bibliotekę inferencji działającą na SRAM, GPU, chipach telefonicznych i macierzach systolicznych. To część fali startupów podgryzających udział rynkowy Nvidii, jeden produkt na raz.

Założony w zeszłym roku przez Jeremy'ego Nixona, byłego badacza Google Brain i twórcę hackerskiej sieci AGI House, Infinity narodziło się z obsesji Nixona na punkcie „automatycznego wynalazku”. Wcześniej wynalazł algorytm uczenia maszynowego o nazwie Omega, który automatycznie generował i oceniał nowe algorytmy w pętli sprzężenia zwrotnego. Sukces ten zaprowadził go do sprzętu, gdzie uwierzył, że zautomatyzowane systemy mogą generować niskopoziomowy kod potrzebny do efektywniejszego uruchamiania chipów.

Agent badawczy AI Infinity, Ignition, pisze niskopoziomowy kod do inferencji AI na chipach innych niż Nvidia. Testuje, debuguje, mierzy wydajność i przepisuje kod w razie potrzeby, stale ucząc się i dostosowując do różnych architektur chipów. Rezultatem, jak twierdzi Nixon, jest stos oprogramowania na poziomie CUDA. Klienci to D-Matrix, producent chipów AI i rywal Nvidii, a Infinity prowadzi rozmowy z innymi dużymi firmami chipowymi i chmurowymi.

Ludzie wciąż zapewniają ogólny kierunek, ale Ignition wykonuje brudną robotę. W jednym studium przypadku agent skrócił to, co mogło być procesem trwającym lata, do godzin lub dni. Infinity nie pobiera opłaty licencyjnej z góry; zamiast tego bierze udział w zyskach z wydajności i oszczędnościach kosztów, mierzonych w tokenach na sekundę. Firma zatrudnia obecnie 26 pracowników w obszarach projektowania, operacji i inżynierii.