Sektörde "büyük daha iyidir" neredeyse dini bir doktrin haline gelmişken, Underdog adlı bir girişim düşünülemez olanı yaptı: sadece 32MB boyutunda bir konuşma modeli yayınladı. Bu, yanlışlıkla indirdiğiniz çoğu PDF'ten daha küçük. Dünya çapında yapay zeka şirketleri devasa işlem gücü gerektiren giderek daha büyük modeller inşa etmek için yarışırken, Underdog tam tersi bir yaklaşımı tercih ediyor - telefonunuz veya bilgisayarınız gibi uç cihazlarda çalışan minik modeller.

Underdog, Woof adını verdiği yeni ses modelini sergilemek için bir oyun geliştirdi. Oyun, retro teknoloji temalı bir oda, bir daktilo ve bir CRT monitör içeriyor. Düğmesine tıkladığınızda ses çıkaran bir masa lambası var - çünkü minimalist yapay zeka demoları bile tatmin edici bir tıklama sesine ihtiyaç duyar. Giriş kısmı, kullanıcıları kasabadaki "davetsiz" bulut sağlayıcıları konusunda uyarıyor; bu da görünüşte bulut tabanlı modellere bir gönderme. İnce bir gönderme değil.

Daktilo ve bir müzik akort cihazıyla etkileşime girebilirsiniz. Klavyenizle daktiloya herhangi bir şey yazın, oyun bunu size geri okuyacaktır. Akort cihazını döndürerek farklı türde müzikler üretin. Tüm bunlar, şirketin çoğu cihazda herhangi bir internet bağlantısı olmadan çalışabileceğini söylediği Underdog'un konuşma üretim modeli aracılığıyla tarayıcı içinde çalışıyor. Model 31 milyon parametreye sahip ve herkesin indirmesine açık. Evet, 31 milyon - GPT-4'ün duyguları ve üstünlük duygusu olsaydı kahkahalarla güleceği bir sayı.

Bu kadar küçük bir model muhtemelen daha büyük modellerin yerini almayacak olsa da, yerel asistan deneyimlerini yönlendirmek veya kişiselleştirilmiş podcast'ler oluşturmak için hâlâ yeterli olabilir. Çünkü bazen sadece hayalleri olan bir ekmek kızartma makinesi tarafından üretilmiş gibi görünen bir podcast istersiniz.

Bu demo, Underdog'un transkripsiyon ve dikte için uç cihazlarda çalışmak üzere tasarlanmış 167MB'lık bir konuşmadan metne modeli olan Bark'ı piyasaya sürmesinden haftalar sonra geliyor. Bark, ailenin tombul olanı galiba.

Underdog'un kurucusu Sigil Wen, TechCrunch'a uygulamayı geliştirmeye başladığını çünkü Granola gibi not alıcıları kullanmak yerine, kullanıcıların cihazlarında çalışabilen ve verilerine sahip olmalarını sağlayan yapay zeka modelleriyle kendi sistemini kurmak istediğini söyledi. "Bence birkaç ay içinde bugünün en yetenekli modellerinin çoğunu zaten sahip olduğunuz cihazlarda çalıştırabileceğiz" dedi. "Biz sadece Amerikan yapımı, açık, yetenekli ve insanların özel yapay zekaya sahip olmasını sağlayan en iyi açık modelleri eğitmek istiyoruz." Muhtemelen masa lambasıyla ilgili bir bölüm içermeyen manifestosuna atıfta bulunuyordu.

Yukarıda bahsedilen iki ses modeline ek olarak Underdog, dizüstü bilgisayarlarda çalışabilen 27 milyar parametreli bir model ve şirketin Muse ve Instinct'e yerel olarak barındırılan bir alternatif olarak konumlandırdığı bekleme listeli bir uygulama da yayınladı. Yani sektörün geri kalanı işlem katedralleri inşa ederken, Underdog burada cep boyutunda modeller ve retro oyunlar yapıyor. Bu ya bir devrim ya da çok detaylı bir şaka - ve dürüst olmak gerekirse, hangisini desteklediğimizden emin değiliz.