Amazon Web Services hat ein Open-Source-Entscheidungsmodell veröffentlicht, das von TypeSafes Jev inspiriert ist – denn nichts sagt Innovation so sehr wie bei jemand anderem abzuschauen und dann die eigene Version davon zu bauen. Der Strands Decider 2B, veröffentlicht in derselben Woche, in der OpenAI ein verdächtig ähnliches Angebot ankündigte, verspricht eine schnelle, kostengünstige Möglichkeit, zwischen vorgegebenen Optionen zu wählen – im Grunde ein Multiple-Choice-Automat, der Ihnen sagt, wie sicher er sich bei seiner Antwort ist. Er ist vollständig Open Source, ab sofort verfügbar und klein genug, um lokal zu laufen, was im Tech-Sprech bedeutet: „Sie brauchen kein Rechenzentrum, um ihn zu nutzen.“

Das Projekt begann, als Amazon Distinguished Engineer Marc Brooker Jev sah und dachte: „Das könnte ich bauen.“ Wie sich herausstellte, konnte er es – die selbstgebraute Version erreichte kurzzeitig den Spitzenplatz im Jevbench-Ranking für Modelle ihrer Größe, was so viel ist wie eine Teilnahmeurkunde zu gewinnen, die tatsächlich etwas bedeutet. Amazon-Ingenieure putzten es dann auf und veröffentlichten es über Strands Labs, die Organisation des Unternehmens für die Entwicklung neuer KI-Agenten-Deployment-Tools.

Brooker sagt, der Bedarf sei aus Gesprächen mit AWS-Kunden entstanden, deren agentische Workflows nicht immer die Fähigkeiten oder Kosten eines voll ausgestatteten LLM erforderten. „Was mein Interesse an dieser Modellklasse ursprünglich geweckt hat, war, dass sie einen perfekten Entscheider für einen Workflow-Schritt abgeben – ‚Was ist der nächste Schritt für mich hier, basierend darauf, wo ich stehe?‘“, sagte er zu TechCrunch. Er fügte hinzu, dass es Kunden einen Workflow-Schritt biete, der dank Konfidenzwerten und einer geschlossenen Antwortdomäne zuverlässiger sei, mit geringerer Latenz und potenziell niedrigeren Kosten. Mit anderen Worten: Manchmal braucht man einfach einen Verkehrspolizisten, keinen Philosophen.

Wie andere Entscheidungsmodelle basiert Strands Decider auf dem „Torso“ eines LLM – konkret Qen3.5-2B – liefert aber statt Text kalibrierte Entscheidungen. TypeSafe benannte sein Modell Jev nach dem Ökonomen William Stanley Jevons und berief sich auf dessen Theorie, dass sinkende Kosten die Nachfrage steigern können. Denn nichts sagt „KI-Revolution“ wie ein Produkt nach einem Ökonomen des 19. Jahrhunderts zu benennen.

Die Tatsache, dass seit TypeSafes Debüt Dutzende ähnlicher Modelle aufgetaucht sind, zeigt breites Interesse, wirft aber auch die Frage auf, wie wertvoll sie sein können. Brooker meint, die Herausforderung bestehe darin, schnelle Entscheidungsfindung zu optimieren, ohne die Intelligenz zu beeinträchtigen. „Es gilt, ein sehr sorgfältiges Gleichgewicht zu finden, bei dem man die Leistung in Bezug auf Genauigkeit und Kalibrierung bei solchen Aufgaben vorantreibt, ohne die Leistung beim Verständnis verschiedener Sprachen oder beim vorhandenen Wissen zu verschlechtern – denn das macht es vielseitig, interessant und nützlich“, sagte er. Das Ziel ist also, ein Modell zu bauen, das sowohl schnell als auch klug ist – eine Kombination, die sich historisch sowohl für KI als auch für Menschen als schwer greifbar erwiesen hat.

Dennoch erwartet Brooker nicht, dass Frontier-Labore diesen Bereich dominieren werden, zumal die Kosten für den Bau von etwas Interessantem nur im Bereich von Hunderten bis Tausenden Dollar liegen. TypeSafe-Führungskräfte sagen ihrerseits, sie hielten den Kopf unten und verbesserten künftige Modelle. „Ich verstehe, dass die Leute denken, es sei ein Goldrausch, aber sie unterschätzen möglicherweise, wie schwierig es ist, die Modelle tatsächlich klug zu machen“, sagte CEO und Gründer Diogo Almeida zu TechCrunch und fügte hinzu, er sehe noch keine echte Konkurrenz aufkommen. „Die aktuelle Charge wirkt eher wie ML-Leute, die eine coole Architektur implementieren wollen, als ein Team, das sich ernsthaft der Nutzbarmachung von Intelligenz widmet.“ Was eine höfliche Art ist zu sagen: Netter Versuch, aber rufen Sie uns an, wenn Sie tatsächlich etwas gebaut haben.