Amazon Web Services, TypeSafe'in Jev'inden ilham alan açık kaynaklı bir karar modeli yayınladı, çünkü başkasının ödevine bakıp kendi versiyonunu yapmaya karar vermek kadar yenilikçilik diye bir şey yok. OpenAI'nin şüpheli bir şekilde benzer bir teklif duyurduğu aynı hafta piyasaya sürülen Strands Decider 2B, önceden kararlaştırılmış seçenekler arasında seçim yapmanın hızlı ve düşük maliyetli bir yolu olmayı vaat ediyor - aslında cevabına ne kadar güvendiğini söyleyen bir çoktan seçmeli makine. Tamamen açık kaynaklı, şu anda mevcut ve yerel olarak çalıştırılabilecek kadar küçük, ki bu teknik dilde "kullanmak için bir veri merkezine ihtiyacınız yok" demek.

Proje, Amazon'un seçkin mühendisi Marc Brooker'ın Jev'i görüp "Bunu ben yapabilirim" diye düşünmesiyle başladı. Görünüşe göre yapabilirdi de - ev yapımı versiyon, kendi boyutundaki modeller için Jevbench sıralamasında kısa süreliğine zirveye çıktı, ki bu aslında bir anlam ifade eden bir katılım ödülü kazanmak gibi. Amazon mühendisleri daha sonra bunu temizleyip şirketin yeni AI ajan dağıtım araçları geliştirme organizasyonu olan Strands Labs aracılığıyla yayınladı.

Brooker, ihtiyacın, ajan iş akışları her zaman tam özellikli bir LLM'nin yeteneğine veya maliyetine ihtiyaç duymayan AWS müşterileriyle yapılan konuşmalardan ortaya çıktığını söylüyor. TechCrunch'a konuşan Brooker, "Bu model sınıfına olan ilgimi ilk çeken şey, bir iş akışı adımı için mükemmel bir karar verici olmalarıydı - 'bulunduğum yere göre burada yapacağım bir sonraki şey ne?'" dedi. Müşterilere, güven puanları ve kapalı bir cevap alanı sayesinde daha güvenilir, daha düşük gecikmeli ve potansiyel olarak daha düşük maliyetli bir iş akışı adımı sunduğunu ekledi. Yani: bazen sadece bir trafik polisine ihtiyacınız vardır, bir filozofa değil.

Diğer karar modelleri gibi, Strands Decider da bir LLM'nin "gövdesi" üzerine inşa edilmiştir - özellikle Qen3.5-2B - ancak metin üretmek yerine kalibre edilmiş seçenekler sunar. TypeSafe, modellerine ekonomist William Stanley Jevons'tan esinlenerek Jev adını verdi ve maliyetlerin düşmesinin talebi artırabileceği teorisini anımsattı. Çünkü ürününüze 19. yüzyıl ekonomistinin adını vermek kadar "AI devrimi" diyen bir şey yok.

TypeSafe fikrini ilk ortaya koyduğundan beri düzinelerce benzer modelin ortaya çıkması geniş bir ilgi olduğunu gösteriyor, ancak ne kadar değerli olabilecekleri sorusunu da gündeme getiriyor. Brooker, zorluğun zekadan ödün vermeden hızlı karar vermeyi optimize etmek olduğunu öne sürüyor. "Bu tür görevlerde doğruluk ve kalibrasyon performansını artırırken, farklı dilleri anlama, sahip olduğu türden bilgiye sahip olma performansını düşürmemek arasında çok dikkatli bir denge bulunmalı; onu genel amaçlı, ilginç ve kullanışlı yapan da bu," dedi. Yani amaç, hem hızlı hem de akıllı bir model yapmak - tarihsel olarak hem AI'nın hem de insanların kaçındığı bir kombinasyon.

Yine de Brooker, özellikle ilginç bir şey inşa etmenin maliyeti yalnızca yüzlerce veya binlerce dolar olduğu için, öncü laboratuvarların bu alana hakim olmasını beklemiyor. TypeSafe yöneticileri ise başlarını öne eğip gelecek modelleri geliştirmeye devam ettiklerini söylüyorlar. CEO ve kurucu Diogo Almeida, TechCrunch'a "İnsanların bunun bir altına hücum olduğunu düşündüğünü anlıyorum, ancak modelleri gerçekten akıllı yapmanın zorluğunu hafife alıyor olabilirler" dedi ve henüz gerçek bir rekabetin ortaya çıktığını görmediğini ekledi. "Mevcut grup, zekayı faydalı kılmaya derinden adanmış bir ekipten çok, havalı bir mimari uygulamak isteyen ML insanları gibi görünüyor." Bu da kibarca şunu söylemenin bir yolu: güzel deneme, ama gerçekten bir şey inşa ettiğinizde bizi arayın.