亚马逊云服务(AWS)发布了一款受TypeSafe的Jev启发的开源决策模型,因为没有什么比看着别人的作业然后决定自己做一个版本更能体现创新了。Strands Decider 2B在OpenAI宣布一个可疑地相似的产品同周发布,承诺提供一种高速、低成本的方式来在预先决定的选项之间进行排序——本质上是一台多项选择机器,告诉你它对自己的答案有多自信。它完全开源,现已可用,而且小到可以在本地运行,这是技术术语,意思是“你不需要数据中心就能使用它”。

该项目始于亚马逊杰出工程师Marc Brooker看到Jev后想:“我能造那个。”事实证明他能——这个自制版本一度在同类规模模型的Jevbench排名中登顶,这就像赢得了一个实际上有意义的参与奖。随后亚马逊工程师将其清理并通过Strands Labs发布,这是该公司开发新AI代理部署工具的组织。

Brooker表示,需求源于与AWS客户的对话,这些客户的代理工作流并不总是需要功能齐全的LLM的能力或成本。“最初引起我对这类模型兴趣的是,它们能完美地作为工作流步骤的决策者——‘基于我当前的位置,下一步该做什么?’”他告诉TechCrunch。他补充说,它为客户提供了一个更可靠的工作流步骤,得益于置信度分数和封闭的答案域,具有更低的延迟和潜在更低的成本。换句话说:有时你只需要一个交警,而不是一个哲学家。

与其他决策模型一样,Strands Decider建立在LLM的“躯干”上——具体是Qen3.5-2B——但它不生成文本,而是提供校准后的选择。TypeSafe将其模型命名为Jev,以经济学家威廉·斯坦利·杰文斯命名,援引他的理论:成本下降可以增加需求。因为没有什么比用19世纪经济学家的名字命名你的产品更能体现“AI革命”了。

自TypeSafe首次提出这一想法以来,已有数十个类似模型涌现,这表明了广泛的兴趣,但也引发了它们能有多大价值的问题。Brooker认为,挑战在于优化快速决策而不损害智能。“需要找到一个非常谨慎的平衡,你希望在这些任务上提升其准确性和校准性能,同时不降低其在理解不同语言、拥有那种知识方面的表现,正是这些使其通用、有趣且有用,”他说。所以,目标是制造一个既快速又聪明的模型——这种组合历来让AI和人类都难以企及。

尽管如此,Brooker并不认为前沿实验室会主导这个领域,尤其是因为构建有趣东西的成本只有数百或数千美元。TypeSafe高管则表示,他们正在保持低调并改进未来的模型。“我明白人们认为这是一场淘金热,但他们可能低估了让模型真正智能的难度,”CEO兼创始人Diogo Almeida告诉TechCrunch,并补充说他认为真正的竞争尚未出现。“当前这批人更像是机器学习爱好者想要实现一个酷炫的架构,而不是一个致力于让智能有用的团队。”这是一种礼貌的说法:不错的尝试,但等你真正做出东西来再叫我们。