2026年11月12日,Edge0在官方博客宣布开源Edge0-145B和更小的Edge0-120B,连同推理框架与部署工具一并公开。Edge0-145B号称全球首个开源的1450亿参数端侧模型,要把写代码、推理和智能体能力从云端搬到个人电脑上,代码按Apache 2.0协议开源,权重放在Hugging Face。
145B参数,怎么塞进一台笔记本
关键在“只算一小部分”:145B是总参数量,每次推理实际参与计算的只有约100亿,64个专家共享两组大矩阵,各自只保留少量专属参数。加载也分三层:常用专家留显存,约40GB专家库放内存,约48GB词表数据留SSD按需读取;CPU与GPU并行,再加推测解码一次验证多个候选词。官方报出的数据是峰值内存29GB,预填充每秒1100个词以上,解码每秒80个词以上,上下文128K到256K,典型功耗约120瓦,首日支持macOS、Windows和Linux,包括苹果M系列芯片与英伟达RTX平台。以上数字来自Edge0内部测试,未经第三方复现。
跑分接近云端模型,短板也在明处
按官方内部评测,Edge0-145B在DeepSWE 1.1上得64.6分,高于Qwen3.8-Flash-Next的58.7分;Terminal-Bench 2.1上86.52分,GPQA-Diamond上90.4分,六项基准均分72.8,内存占用约只有同等水平基线模型的四成。演示里它在本地独立干了不少重活:用Blender搭曼哈顿街景、写程序让真无人机找到红色背包、在KiCad里从零画电路板做装配动画,全程不调云端接口。横向看,本地大模型的门槛并没有消失:29GB峰值内存意味着普通16GB内存的笔记本跑不动,48GB内存的机型才是目标用户;这和此前1T参数Mistral Large 4开放权重时的结论一致:权重能下载,不等于人人能跑。更早的本地运行工具如Ollama解决的是小模型易用性,Edge0赌的是另一端:把大模型本身做小、做省,再塞进个人设备。
对开发者来说,真正的变化不在跑分,而在账怎么算:本地推理没有按词计费,代码和数据可以不出本机,离线也能继续干活;代价是硬件和电费自己扛,模型更新、长记忆和查最新信息仍要靠云。这次145B能不能复现Edge0-35B今年9月登顶Hugging Face热门榜的热度,要看社区实测能不能撑住官方数字。