AI 인프라 스타트업 인피니티(Infinity)가 1억 달러의 가치 평가로 1500만 달러를 투자 유치했다. 투자에는 투어링 캐피탈(Touring Capital), 프린시플 VC(Principal VC), 그리고 OpenAI와 Anthropic의 연구원들이 참여했다. 이 회사는 엔비디아의 AI 칩 시장 장악력을 조금 덜 장악력 있게 만들기 위해, AI 모델이 엔비디아 칩뿐만 아니라 어떤 칩에서도 실행될 수 있도록 하는 소프트웨어를 구축하는 임무를 띠고 있다.

엔비디아의 지배력은 강력한 GPU뿐만 아니라, 그래픽 프로세서를 범용 컴퓨팅 워크호스로 바꿔주는 소프트웨어 계층인 CUDA에도 있다. PyTorch와 TensorFlow 같은 주요 AI 프레임워크는 CUDA 위에 구축되어 있어, Python으로 작성된 앱은 자동으로 엔비디아 칩을 기본값으로 사용한다. 대부분의 스타트업은 대체 칩에 앱을 포팅하기 위해 자체 저수준 커널 소프트웨어를 작성할 자원이 부족하다. 인피니티는 CUDA의 대안이 되고자 하며, SRAM, GPU, 폰 칩, 시스톨릭 어레이(Systolic Arrays) 전반에서 작동하는 범용 추론 라이브러리를 만든다. 이는 엔비디아의 시장 점유율을 하나씩 조금씩 깎아내는 스타트업 물결의 일부다.

작년에 전 Google Brain 연구원이자 해커 네트워크 AGI House의 창시자인 제레미 닉슨(Jeremy Nixon)이 설립한 인피니티는 '자동화된 발명'에 대한 닉슨의 집착에서 탄생했다. 그는 이전에 오메가(Omega)라는 머신러닝 알고리즘을 발명했는데, 이 알고리즘은 피드백 루프에서 새로운 알고리즘을 자동으로 생성하고 평가했다. 그 성공은 그를 하드웨어로 이끌었고, 자동화된 시스템이 칩을 더 효과적으로 실행하는 데 필요한 저수준 코드를 생성할 수 있다고 믿게 했다.

인피니티의 AI 연구 에이전트인 이그니션(Ignition)은 비엔비디아 칩에서 AI 추론을 위한 저수준 코드를 작성한다. 코드를 테스트, 디버그, 성능 측정, 재작성하며, 다양한 칩 아키텍처에 지속적으로 학습하고 적응한다. 닉슨에 따르면 그 결과는 CUDA 수준의 소프트웨어 스택이다. 고객으로는 AI 칩 제조사이자 엔비디아 도전자인 D-Matrix가 있으며, 인피니티는 다른 대형 칩 및 클라우드 회사들과 협상 중이다.

인간은 여전히 높은 수준의 방향을 제시하지만, 이그니션이 힘든 작업을 처리한다. 한 사례 연구에서 에이전트는 수년이 걸릴 수 있는 프로세스를 몇 시간 또는 며칠로 단축했다. 인피니티는 선불 라이선스 비용을 청구하지 않고, 초당 토큰 수로 측정된 성능 향상 및 비용 절감의 일부를 가져간다. 현재 회사는 디자인, 운영, 엔지니어링 분야에 26명의 직원을 두고 있다.