ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
Julia 1:144M 参数的小模型,专干 AI 的分类路由活

Julia 1:144M 参数的小模型,专干 AI 的分类路由活

AI资讯 • Admin • • 2 次浏览

Julia 1 是巴西小实验室 Supersonic Labs 在 2026 年 9 月 26 日发布的决策模型:只有 1.443 亿参数,为 CPU 上的文本分类与路由而生。权重文件 550.5 MiB,代码与权重都已放在 Hugging Face 上,以 Apache 2.0 协议开源。它不生成文本,只做选择——这是理解它的第一道门槛。

先摆正概念:它选答案,不写答案

Julia 1 的输入是「上下文 + 问题 + 候选答案集合」,输出是从候选里挑出一个。它适合的活儿很具体:文本分类、请求路由、有序打分、是否判断。它的底座是多语言的 mmBERT-small 编码器——注意,它不是大模型生成器,别指望它写东西。

官方数字怎么读:小样本试点,不是生产证据

实验室公布了几组小规模试点成绩:Banking77 上 100 个样本、72 个标签先经短名单缩小范围,答对 64 例,官方同时给出的对比数字是 87%;新闻分类 100 例 4 标签答对 94 例;情感分类 100 例 6 标签答对 86 例。必须说明白:这是公司自报的小样本试点,不是生产环境证据,口径不同的数字不能直接对打。端侧表现倒是实在:在 Apple M4、Intel i5-1235U 笔记本和三星平板上都跑过,平板上 CPU 执行约每秒 5 次决策——官方称其可用的加速路径回退到了 CPU,这只是一次部署演示。实验室还透露,云端 GPU 训练与实验总成本约 540 雷亚尔,折合约 104 美元。

边界与坑:动手之前先看清

最值得警惕的是 Banking77 那组 64% 对 87% 的对比:官方口径是「短名单缩小标签后」再测,两个数字的测试条件并不对等,直接比较会误导。选型的人必须拿自己的标签体系实测一遍,别被发布文案里的数字带偏。另外再说一遍定位:它是决策模型,不是生成模型,用它做生成、做推理是找错了工具。小样本试点的成绩,也别直接外推到生产环境。

智能体时代,还需要便宜的「路由层」

智能体时代需要的,不只是更大的生成模型,还有便宜的「路由层」:每一次分类、每一次路由决策,如果都要调一次云端大模型,成本和延迟都扛不住。Julia 1 这类小模型干的就是这个活儿——把高频、低风险的判断留在本地、用小模型解决。Supersonic Labs 的定位说得很直白:做「人们已有硬件上就能跑的实用 AI」。104 美元训出来的模型、平板上每秒 5 次决策,这个故事的重点从来不是刷榜,而是让 AI 落到普通人手里已有的设备上。

推荐工具

更多