Startup-ul de infrastructură AI Infinity a strâns 15 milioane de dolari la o evaluare de 100 de milioane de dolari, cu sprijin de la Touring Capital, Principal VC și cercetători de la OpenAI și Anthropic. Compania are misiunea de a face strânsoarea Nvidia pe piața cipurilor AI puțin mai puțin sufocantă, construind software care permite modelelor AI să ruleze pe orice cip, nu doar pe cele Nvidia.

Dominația Nvidia nu ține doar de GPU-urile sale puternice; ci și de CUDA, stratul software care transformă procesoarele grafice în cai de bătaie de calcul general. Principalele cadre AI precum PyTorch și TensorFlow sunt construite pe CUDA, ceea ce înseamnă că aplicațiile scrise în Python implicit aleg cipurile Nvidia. Majoritatea startup-urilor nu au resursele să scrie propriul software de kernel de nivel scăzut pentru a porta aplicațiile pe cipuri alternative. Infinity își propune să fie alternativa CUDA, creând o bibliotecă universală de inferență care funcționează pe SRAM, GPU-uri, cipuri de telefon și Sistole Array. Face parte dintr-un val de startup-uri care cioplesc din cota de piață a Nvidia, câte un produs odată.

Fondat anul trecut de Jeremy Nixon, fost cercetător Google Brain și creator al rețelei de hackeri AGI House, Infinity s-a născut din obsesia lui Nixon pentru „invenția automatizată”. Anterior, el a inventat un algoritm de învățare automată numit Omega, care genera și evalua automat noi algoritmi într-o buclă de feedback. Acest succes l-a condus către hardware, unde a crezut că sistemele automate ar putea genera codul de nivel scăzut necesar pentru a rula cipurile mai eficient.

Agentul de cercetare AI al Infinity, Ignition, scrie cod de nivel scăzut pentru inferența AI pe cipuri non-Nvidia. Testează, depanează, măsoară performanța și rescrie codul după cum este necesar, învățând și adaptându-se continuu la diferite arhitecturi de cipuri. Rezultatul, susține Nixon, este un stack software de nivel CUDA. Clienții includ D-Matrix, un producător de cipuri AI și contestatar al Nvidia, iar Infinity poartă discuții cu alte mari companii de cipuri și cloud.

Oamenii oferă încă direcția de nivel înalt, dar Ignition se ocupă de munca de bază. Într-un studiu de caz, agentul a redus ceea ce ar fi putut fi un proces de ani de zile la ore sau zile. Infinity nu percepe o taxă de licență upfront; în schimb, ia o parte din câștigurile de performanță și economiile de costuri, măsurate în tokeni pe secundă. Compania are în prezent 26 de angajați care acoperă design, operațiuni și inginerie.