Amazon clone le Jev de TypeSafe parce qu'apparemment un seul modèle de décision ne suffisait pas
Le nouveau modèle de décision open source d'Amazon, Strands Decider 2B, rejoint un tas croissant de clones de Jev - parce que pourquoi innover quand on peut simplement cloner ?
Amazon Web Services a publié un modèle de décision open source inspiré du Jev de TypeSafe, parce que rien ne dit « innovation » comme regarder le devoir de quelqu'un d'autre et décider d'en faire sa propre version. Le Strands Decider 2B, publié la même semaine où OpenAI a annoncé une offre suspicieusement similaire, promet d'être un moyen rapide et peu coûteux de trier entre des options prédéfinies – essentiellement une machine à choix multiples qui vous dit à quel point elle est confiante dans sa réponse. Il est entièrement open source, disponible dès maintenant, et suffisamment petit pour tourner localement, ce qui, en langage tech, signifie « vous n'avez pas besoin d'un centre de données pour l'utiliser ».
Le projet a commencé lorsque l'ingénieur distingué d'Amazon, Marc Brooker, a vu Jev et a pensé : « Je pourrais construire ça. » Il s'avère qu'il pouvait – la version maison a brièvement atteint la première place du classement Jevbench pour les modèles de sa taille, ce qui revient à gagner un trophée de participation qui signifie réellement quelque chose. Les ingénieurs d'Amazon l'ont ensuite nettoyé et publié via Strands Labs, l'organisation de l'entreprise chargée de développer de nouveaux outils de déploiement d'agents IA.
Brooker affirme que le besoin est né de conversations avec des clients AWS dont les flux de travail agentiques n'exigeaient pas toujours la capacité ou le coût d'un LLM complet. « Ce qui a initialement piqué mon intérêt pour cette classe de modèles, c'est qu'ils constituent un décideur parfait pour une étape de flux de travail – “quelle est la prochaine chose à faire ici, en fonction de l'endroit où je me trouve ?” » a-t-il déclaré à TechCrunch. Il a ajouté que cela offrait aux clients une étape de flux de travail plus fiable grâce à des scores de confiance et un domaine de réponses fermé, avec une latence plus faible et un coût potentiellement réduit. En d'autres termes : parfois, vous avez juste besoin d'un agent de la circulation, pas d'un philosophe.
Comme d'autres modèles de décision, Strands Decider est construit sur le « torse » d'un LLM – spécifiquement Qen3.5-2B – mais au lieu de générer du texte, il fournit des choix calibrés. TypeSafe a nommé son modèle Jev d'après l'économiste William Stanley Jevons, invoquant sa théorie selon laquelle la baisse des coûts peut augmenter la demande. Parce que rien ne dit « révolution de l'IA » comme nommer son produit d'après un économiste du XIXe siècle.
Le fait que des dizaines de modèles similaires aient surgi depuis que TypeSafe a dévoilé son idée montre un large intérêt, mais soulève aussi la question de leur valeur réelle. Brooker suggère que le défi est d'optimiser la prise de décision rapide sans compromettre l'intelligence. « Il y a un équilibre très délicat à trouver où l'on veut pousser ses performances en matière de précision et de calibration sur ce genre de tâches, sans dégrader ses performances sur la compréhension de différentes langues, sur la possession du genre de connaissances qu'il a, ce qui le rend polyvalent, intéressant et utile », a-t-il déclaré. Donc, l'objectif est de créer un modèle à la fois rapide et intelligent – une combinaison qui a historiquement échappé à l'IA comme aux humains.
Pourtant, Brooker ne s'attend pas à ce que les laboratoires de pointe dominent l'espace, d'autant plus que le coût de construction de quelque chose d'intéressant ne se chiffre qu'en centaines ou milliers de dollars. De leur côté, les dirigeants de TypeSafe affirment qu'ils restent discrets et améliorent les futurs modèles. « Je comprends que les gens pensent que c'est une ruée vers l'or, mais ils sous-estiment peut-être la difficulté de rendre les modèles réellement intelligents », a déclaré le PDG et fondateur Diogo Almeida à TechCrunch, ajoutant qu'il ne voyait pas encore de véritable concurrence émerger. « Le lot actuel ressemble plus à des gens du ML voulant implémenter une architecture cool qu'à une équipe profondément dédiée à rendre l'intelligence utile. » Ce qui est une façon polie de dire : bel essai, mais appelez-nous quand vous aurez réellement construit quelque chose.
The Good Times
Les nouvelles dans votre boîte.
Un résumé sardonique, livré selon votre horaire. Gratuit. Désabonnez-vous quand vous en avez assez.
Déjà abonné mais on n'arrive jamais dans votre boîte ? Regardez dans vos spams et cliquez sur 'Non spam' (ou 'Retirer des spams') pour nous sortir du purgatoire des indésirables. Vous rendrez service à tout le monde.
Si vous n'ouvrez aucun de nos e-mails pendant un mois, vous serez automatiquement retiré de la liste.
Rewrite Article
Select parts to regenerate with a fresh AI pass. Translations will be updated automatically.
Generate AI Image
Creates a sardonic version of the article image using OpenAI.