Amazon Web Services heeft een open-source beslissingsmodel uitgebracht, geïnspireerd door TypeSafe's Jev, want niets zegt innovatie zoals andermans huiswerk bekijken en besluiten je eigen versie ervan te maken. De Strands Decider 2B, uitgebracht in dezelfde week dat OpenAI een verdacht vergelijkbaar aanbod aankondigde, belooft een snelle, goedkope manier te zijn om tussen vooraf bepaalde opties te kiezen - in wezen een multiple-choice-machine die je vertelt hoe zeker hij is van zijn antwoord. Het is volledig open-source, nu beschikbaar, en klein genoeg om lokaal te draaien, wat in tech-taal betekent: "je hebt geen datacenter nodig om het te gebruiken."

Het project begon toen Amazon distinguished engineer Marc Brooker Jev zag en dacht: "Dat kan ik bouwen." Blijkbaar kon hij dat - de zelfgebrouwen versie bereikte kortstondig de top van de Jevbench-ranglijst voor modellen van zijn grootte, wat zoiets is als een deelname-trofee winnen die daadwerkelijk iets betekent. Amazon-engineers poetsten het vervolgens op en brachten het uit via Strands Labs, de organisatie van het bedrijf voor het ontwikkelen van nieuwe AI-agent-implementatietools.

Brooker zegt dat de behoefte voortkwam uit gesprekken met AWS-klanten wier agentische workflows niet altijd de capaciteit of kosten van een volledig uitgeruste LLM vereisten. "Wat mijn interesse in deze klasse van modellen oorspronkelijk wekte, was dat ze een perfecte beslisser vormen voor een workflowstap - 'wat is het volgende dat ik hier moet doen, op basis van waar ik ben?'" vertelde hij aan TechCrunch. Hij voegde eraan toe dat het klanten een workflowstap biedt die betrouwbaarder is dankzij confidence scores en een gesloten domein van antwoorden, met lagere latency en mogelijk lagere kosten. Met andere woorden: soms heb je gewoon een verkeersagent nodig, geen filosoof.

Zoals andere beslissingsmodellen is Strands Decider gebouwd op de "torso" van een LLM - specifiek Qen3.5-2B - maar in plaats van tekst te genereren, levert het gekalibreerde keuzes. TypeSafe noemde hun model Jev naar econoom William Stanley Jevons, verwijzend naar zijn theorie dat dalende kosten de vraag kunnen doen toenemen. Want niets zegt "AI-revolutie" zoals je product vernoemen naar een 19e-eeuwse econoom.

Het feit dat er tientallen vergelijkbare modellen zijn opgedoken sinds TypeSafe zijn idee debuteerde, toont brede interesse, maar roept ook de vraag op hoeveel waarde ze kunnen hebben. Brooker suggereert dat de uitdaging is om snelle besluitvorming te optimaliseren zonder intelligentie in te leveren. "Er moet een zeer zorgvuldige balans worden gevonden waarin je de prestaties op nauwkeurigheid en kalibratie voor dit soort taken wilt opvoeren, zonder de prestaties op het begrijpen van verschillende talen, op het hebben van het soort kennis dat het heeft, aan te tasten - wat het juist general-purpose, interessant en nuttig maakt," zei hij. Het doel is dus een model te maken dat zowel snel als slim is - een combinatie die historisch zowel AI als mensen is ontgaan.

Toch verwacht Brooker niet dat frontier labs dit domein zullen domineren, vooral omdat de kosten om iets interessants te bouwen slechts in de honderden of duizenden dollars liggen. Van hun kant zeggen TypeSafe-executives dat ze hun hoofd down houden en toekomstige modellen verbeteren. "Ik snap dat mensen denken dat het een gold rush is, maar ze onderschatten misschien de moeilijkheid om de modellen daadwerkelijk slim te maken," vertelde CEO en oprichter Diogo Almeida aan TechCrunch, eraan toevoegend dat hij nog geen echte concurrentie zag opkomen. "De huidige batch lijkt meer op ML-mensen die een coole architectuur willen implementeren dan op een team dat diep toegewijd is aan het nuttig maken van intelligentie." Wat een beleefde manier is om te zeggen: leuk geprobeerd, maar bel ons als je daadwerkelijk iets hebt gebouwd.