"크면 클수록 좋다"가 사실상 종교적 교리인 업계에서, 언더독(Underdog)이라는 스타트업이 상상도 못 할 일을 해냈다. 단 32MB에 불과한 음성 모델을 출시한 것이다. 이는 여러분이 실수로 다운로드한 대부분의 PDF 파일보다 작다. 전 세계 AI 기업들이 막대한 처리 능력을 요구하는 더 큰 모델을 만들기 위해 경쟁하는 동안, 언더독은 정반대 접근법에 베팅하고 있다. 바로 휴대폰이나 컴퓨터 같은 엣지 디바이스에서 실행되는 초소형 모델이다.

'우프(Woof)'라는 새 음성 모델을 자랑하기 위해 언더독은 게임을 만들었다. 이 게임에는 레트로 테크 테마의 방, 타자기, CRT 모니터가 등장한다. 스위치를 클릭하면 소리가 나는 책상 스탠드도 있다. 미니멀한 AI 데모에도 만족스러운 클릭음은 필요하니까. 인트로에서는 마을의 "침입적인" 클라우드 제공업체에 대해 경고하는데, 이는 표면적으로 클라우드 기반 모델을 비꼬는 것이다. 은근하지 않다.

타자기와 음악 튜너와 상호작용할 수 있다. 키보드로 타자기에 아무거나 입력하면 게임이 그것을 다시 말해준다. 튜너를 돌려 다양한 종류의 음악을 생성할 수 있다. 이 모든 것은 언더독의 음성 생성 모델을 통해 브라우저 내에서 작동하며, 회사 측은 대부분의 기기에서 인터넷 연결 없이 실행될 수 있다고 말한다. 이 모델은 3,100만 개의 파라미터를 가지고 있으며 누구나 다운로드할 수 있도록 공개되어 있다. 그렇다, 3,100만. GPT-4가 감정과 우월감을 가지고 있다면 비웃었을 숫자다.

이렇게 작은 모델이 더 큰 모델을 대체할 가능성은 낮지만, 로컬 어시스턴트 경험이나 개인화된 팟캐스트를 만드는 데는 충분할 수 있다. 때로는 야망을 가진 토스터가 생성한 것 같은 팟캐스트가 듣고 싶을 때도 있으니까.

이 데모는 언더독이 전사 및 받아쓰기를 위해 엣지 디바이스에서 실행되도록 설계된 167MB 음성-텍스트 모델 '바크(Bark)'를 출시한 지 몇 주 만에 나왔다. 바크는 apparently 가족 중 뚱뚱한 쪽이다.

언더독의 창립자 시질 웬(Sigil Wen)은 테크크런치와의 인터뷰에서 그라놀라 같은 노트테이커를 사용하는 대신 사용자 기기에서 실행되고 데이터를 소유할 수 있는 AI 모델로 자신만의 시스템을 구축하고 싶어서 앱을 만들기 시작했다고 말했다. "몇 달 안에 오늘날 가장 유능한 모델 대부분을 여러분이 이미 소유한 기기에서 실행할 수 있을 것이라고 생각합니다"라고 그는 말했다. "우리는 미국산이고, 개방적이며, 유능하고, 사람들이 사적인 AI를 가질 수 있게 해주는 최고의 오픈 모델을 훈련시키고 싶을 뿐입니다." 그는 자신의 선언문을 언급한 것이며, 아마도 책상 스탠드에 관한 섹션은 포함되어 있지 않을 것이다.

위에 언급된 두 음성 모델 외에도 언더독은 노트북에서 실행할 수 있는 270억 파라미터 모델과 뮤즈(Muse) 및 인스팅트(Instinct)에 대한 로컬 호스팅 대안으로 포지셔닝한 대기자 명단 앱도 출시했다. 그래서 업계의 나머지가 컴퓨팅의 대성당을 짓는 동안, 언더독은 여기서 주머니 크기의 모델과 레트로 게임을 만들고 있다. 그것은 혁명이거나 매우 정교한 농담이다. 솔직히 우리는 어느 쪽을 응원해야 할지 모르겠다.