「大きいことはいいことだ」がもはや宗教的教義となっている業界で、Underdogというスタートアップが信じられないことをやってのけた。わずか32MBの音声モデルをリリースしたのだ。それは、あなたが誤ってダウンロードしてしまったほとんどのPDFよりも小さい。世界中のAI企業が膨大な処理能力を必要とする巨大モデルの開発にしのぎを削る中、Underdogは逆のアプローチに賭けている。つまり、あなたのスマートフォンやコンピューターのようなエッジデバイス上で動作する小さなモデルだ。

新しい音声モデル「Woof」を披露するため、Underdogはゲームを作った。ゲームにはレトロなテクノロジーをテーマにした部屋、タイプライター、そしてCRTモニターが登場する。スイッチをクリックすると音が鳴るデスクランプもある。なぜなら、ミニマリストなAIデモでさえ、心地よいクリック音が必要だからだ。イントロでは、町にいる「侵入者的な」クラウドプロバイダーについてユーザーに警告している。これは、クラウドベースのモデルへの当てこすりであることは明らかだ。微妙さのかけらもない。

タイプライターや音楽チューナーと対話できる。キーボードでタイプライターに何かを入力すると、ゲームがそれを読み上げる。チューナーを回すと、さまざまな種類の音楽が生成される。これらすべてが、Underdogの音声生成モデルを通じてブラウザ内で動作し、同社によればインターネット接続なしでほとんどのデバイスで実行できるという。モデルは3100万のパラメータを持ち、誰でもダウンロード可能だ。そう、3100万。GPT-4が感情と優越感を持っていたなら、笑い飛ばしたであろう数字だ。

このような小さなモデルは、おそらく大きなモデルを置き換えることはないだろうが、ローカルアシスタント体験を推進したり、パーソナライズされたポッドキャストを作成したりするには十分かもしれない。なぜなら、時には野望を抱いたトースターが生成したようなポッドキャストが欲しいだけなのだから。

このデモは、Underdogが167MBの音声テキスト変換モデル「Bark」を発表してから数週間後のことだ。Barkもまた、文字起こしやディクテーションのためにエッジデバイス上で動作するように設計されている。Barkはどうやら家族の中でぽっちゃりした方らしい。

Underdogの創業者であるSigil WenはTechCrunchに対し、Granolaのようなノートテイカーを使う代わりに、ユーザーのデバイス上で動作し、データを所有できるAIモデルを備えた独自のシステムを構築したかったので、このアプリの開発を始めたと語った。「数ヶ月以内に、今日の最も有能なモデルのほとんどを、あなたがすでに所有しているデバイス上で実行できるようになると思います」と彼は述べた。「私たちは、アメリカ製で、オープンで、有能で、人々がプライベートなAIを持てるような、最高のオープンモデルをトレーニングしたいだけです」。彼は自身のマニフェストについて言及していたが、そこにはおそらくデスクランプに関するセクションは含まれていないだろう。

上記の2つの音声モデルに加えて、Underdogはラップトップ上で実行できる270億パラメータのモデルもリリースしており、さらにMuseやInstinctのローカルホスト型代替として位置づけているウェイトリスト付きのアプリも提供している。つまり、業界の他の企業が計算の大聖堂を建てている一方で、Underdogはポケットサイズのモデルとレトロゲームを作っているのだ。それは革命か、それとも非常に手の込んだジョークか。正直なところ、どちらを応援すべきかわからない。