Perplexity Decider v1.2 于 2026 年 10 月 17 日成为这一轮最容易被看漏的发布:Perplexity 在 Hugging Face 上更新了这款决策模型的模型卡,Vercel 同期把 Decider V1.2 27B 与 Decider Flash V1.2 4B 上架 AI Gateway,Perplexity 首席执行官 Aravind Srinivas 当天还专门发帖称 Flash 版本可以端侧跑在一台 16GB 内存的 M4 Mac 上。它和聊天机器人走的是完全不同的路:不写回复、不生成代码,只回答被问好的判断题,并给出概率。
它只回三种答案,每种都带概率
决策模型的使用方式是先给它一份材料(模型卡里叫 state,可以是文本、结构化记录,也可以是图片),再给它一道或多道定型问题。是非题回一个 0 到 1 之间的“是”的概率;选择题在你给定的选项里逐个给概率并选出最可能的一个;评分题按你定义的有序量表逐级给概率。应用拿到这些数字后自己做决定:工单转给哪个团队、商品照片是否显示破损、拿不准的判断转人工复核。因为它不逐字生成文本,这类模型在分类、路由、打标这些高频环节里,算的是另一种账。
v1.2 的主要变化:相关的问题可以一次问完
这一版基于 Qwen3.8-27B 微调,材料里可以带图片,单张上限约 160 万像素。新做法是把一份材料和多个问题放进同一次请求,每个问题有自己的读出标记,相关问题共享上下文,算力大致相当于只问一个问题。Perplexity 自测的 Decision Index 0.3 上,一次问多个问题的配置总分 68.09,上一版是 62.30;视觉决策分项从 73.22 升到 77.43。需要打折看的是,这套基准由 Perplexity 自己维护和运行,且这一版的训练数据已经纳入了其中若干基准的官方训练集,分数上涨有多少来自“更会判断”、多少来自“更熟悉考题”,要等第三方复测才能拆开。Perplexity 自己也提醒:给互不相关的候选对象打分时应分开请求,放在一起会互相影响。
Flash 版本想把判断这一步搬到端侧
同系列的 Flash 版只有 4B,定位是高吞吐的打标、过滤和路由,Vercel 的上架说明也把大号 27B 留给“细致判断和复杂量表”,把 Flash 留给“标准明确的大批量任务”。Srinivas 的端侧说法如果成立,意味着一部分分类和初筛可以不再把材料发去云端,对隐私敏感、量又大的场景是个实打实的选项。但目前这只是厂商负责人的公开发言,没有公布端侧的速度和精度数据,先别按它做架构决策。
要用 27B 版自托管,门槛也要先算清:BF16 权重约需 52GiB 显存,外加运行内存,要求 Python 3.12 以上和 CUDA GPU。这不是随手能塞进现有服务的小组件。更稳妥的读法是:决策模型这条线在 Jev 出现几周内已经挤进 Perplexity、Cloudflare、OpenAI 等一串玩家,v1.2 的看点不是分数本身,而是“判断”正在被拆成一个独立、便宜、可端侧的环节——谁的业务里有大量是非题,谁就该开始试了。