ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
Baseten 决策模型开源发布:不写答案,只给每个选项打分

Baseten 决策模型开源发布:不写答案,只给每个选项打分

AI资讯 • Admin • • 13 次浏览

Baseten 决策模型在 2026 年 10 月 21 日由 Baseten 旗下 Base Labs 发布:mammoth-1(27B)与 elephant-1(9B)不生成文字,只对每个候选答案给出一个概率,所有选项的分数加起来等于 1。两款模型已经开源,放在 Hugging Face 上,Baseten 的模型 API 提供一周免费试用,默认零数据留存。

它回答的,是三种很窄的问题

决策模型能接的活只有三类:从清单里选一个,比如这张工单该归基础设施、计费、安全还是支持团队;按量表打分,比如这封邮件的紧急程度是高还是低;以及是非判断,比如这封邮件是不是钓鱼邮件。听起来简单,却是生产系统里量最大的一类请求。过去团队常用生成式大模型做这些判断,模型要逐字写出回答,算力花得多,速度慢,而且一段文字里看不出它到底有多确定。

置信度,才是它真正的卖点

mammoth-1 在 Jev Decision Index 0.4 上以 71.24 分排在 208 个决策模型的第一位,elephant-1 是 9B 规模里的第一名。两款模型都以 Qwen3.5 为底座,用 621 万条决策样本做后训练,覆盖知识推理、语言、工具与自动化、检索分类和审美判断五个领域,训练数据里还专门包含教模型说“我不知道”的样本。Baseten 给出的说法是,相比推理模型,决策模型在这类任务上最高能快 10 倍。

谁该认真看一眼

真正的用法不是替代聊天模型,而是站在它前面分流:置信度够高就自动处理,比如 90% 把握时直接派单;不够就转给人或更强的模型。工单分诊、垃圾与钓鱼检测、提示词护栏和越狱检测、大小模型之间的请求路由,都是现成场景。代价也要算清:它只会判断,不会解释理由,审计要求高的流程还得另留记录;榜单成绩来自厂商自报的评测体系,接入前应该拿自己的难例集测准确率和置信度校准,再定阈值。

推荐工具

更多