Das KI-Infrastruktur-Startup Infinity hat bei einer Bewertung von 100 Millionen Dollar 15 Millionen Dollar eingesammelt, mit Unterstützung von Touring Capital, Principal VC sowie Forschern von OpenAI und Anthropic. Das Unternehmen hat sich zum Ziel gesetzt, Nvidias Würgegriff auf dem KI-Chipmarkt ein wenig lockerer zu machen, indem es Software entwickelt, die KI-Modelle auf jedem Chip laufen lässt – nicht nur auf Nvidias.

Nvidias Dominanz liegt nicht nur an seinen leistungsstarken GPUs, sondern auch an CUDA, der Softwareschicht, die Grafikprozessoren zu universellen Rechenarbeitern macht. Wichtige KI-Frameworks wie PyTorch und TensorFlow basieren auf CUDA, sodass in Python geschriebene Apps automatisch auf Nvidia-Chips zurückgreifen. Den meisten Startups fehlen die Ressourcen, um eigene Low-Level-Kernel-Software zu schreiben, um Apps auf alternative Chips zu portieren. Infinity will die CUDA-Alternative sein und eine universelle Inferenzbibliothek schaffen, die auf SRAM, GPUs, Handy-Chips und Systolic Arrays funktioniert. Es ist Teil einer Welle von Startups, die Nvidias Marktanteil Stück für Stück angreifen.

Gegründet wurde Infinity letztes Jahr von Jeremy Nixon, einem ehemaligen Google-Brain-Forscher und Schöpfer des Hacker-Netzwerks AGI House. Infinity entstand aus Nixons Besessenheit von „automatisierter Erfindung“. Zuvor erfand er einen maschinellen Lernalgorithmus namens Omega, der in einer Rückkopplungsschleife automatisch neue Algorithmen generierte und bewertete. Dieser Erfolg führte ihn zur Hardware, wo er glaubte, dass automatisierte Systeme den Low-Level-Code erzeugen könnten, der benötigt wird, um Chips effektiver zu betreiben.

Infinitys KI-Forschungsagent Ignition schreibt Low-Level-Code für KI-Inferenz auf Nicht-Nvidia-Chips. Er testet, debuggt, misst die Leistung und schreibt Code bei Bedarf neu, wobei er kontinuierlich lernt und sich an verschiedene Chip-Architekturen anpasst. Das Ergebnis, so Nixon, ist ein Software-Stack auf CUDA-Niveau. Zu den Kunden gehört D-Matrix, ein KI-Chip-Hersteller und Nvidia-Herausforderer, und Infinity führt Gespräche mit anderen großen Chip- und Cloud-Unternehmen.

Menschen geben weiterhin die Richtung vor, aber Ignition erledigt die Fleißarbeit. In einer Fallstudie reduzierte der Agent, was ein jahrelanger Prozess hätte sein können, auf Stunden oder Tage. Infinity verlangt keine Vorab-Lizenzgebühr, sondern erhält einen Anteil an Leistungssteigerungen und Kosteneinsparungen, gemessen in Tokens pro Sekunde. Das Unternehmen hat derzeit 26 Mitarbeiter in den Bereichen Design, Betrieb und Technik.