La startup de infraestructura de IA Infinity ha recaudado 15 millones de dólares con una valoración de 100 millones, con el respaldo de Touring Capital, Principal VC e investigadores de OpenAI y Anthropic. La empresa tiene la misión de hacer que el control de Nvidia sobre el mercado de chips de IA sea un poco menos asfixiante, construyendo software que permita ejecutar modelos de IA en cualquier chip, no solo en los de Nvidia.

El dominio de Nvidia no se debe solo a sus potentes GPU, sino también a CUDA, la capa de software que convierte los procesadores gráficos en caballos de batalla informáticos de uso general. Los principales marcos de IA como PyTorch y TensorFlow están construidos sobre CUDA, lo que significa que las aplicaciones escritas en Python recurren automáticamente a los chips de Nvidia. La mayoría de las startups carecen de los recursos para escribir su propio software de kernel de bajo nivel para portar aplicaciones a chips alternativos. Infinity aspira a ser la alternativa a CUDA, creando una biblioteca de inferencia universal que funcione en SRAM, GPU, chips de teléfonos y arreglos sistólicos. Es parte de una ola de startups que están erosionando la cuota de mercado de Nvidia, un producto a la vez.

Fundada el año pasado por Jeremy Nixon, ex investigador de Google Brain y creador de la red de hackers AGI House, Infinity nació de la obsesión de Nixon con la "invención automatizada". Anteriormente inventó un algoritmo de aprendizaje automático llamado Omega, que generaba y evaluaba automáticamente nuevos algoritmos en un bucle de retroalimentación. Ese éxito lo llevó al hardware, donde creía que los sistemas automatizados podrían generar el código de bajo nivel necesario para ejecutar chips de manera más efectiva.

El agente de investigación de IA de Infinity, Ignition, escribe código de bajo nivel para la inferencia de IA en chips que no son de Nvidia. Prueba, depura, mide el rendimiento y reescribe el código según sea necesario, aprendiendo y adaptándose continuamente a diferentes arquitecturas de chips. El resultado, afirma Nixon, es una pila de software a nivel de CUDA. Los clientes incluyen a D-Matrix, un fabricante de chips de IA y rival de Nvidia, e Infinity está en conversaciones con otras grandes empresas de chips y nube.

Los humanos aún proporcionan dirección de alto nivel, pero Ignition se encarga del trabajo pesado. En un caso de estudio, el agente redujo lo que podría haber sido un proceso de años a horas o días. Infinity no cobra una tarifa de licencia inicial; en cambio, se queda con una parte de las ganancias de rendimiento y ahorros de costos, medidos en tokens por segundo. La empresa cuenta actualmente con 26 empleados que abarcan diseño, operaciones e ingeniería.