ToolNavs 发现实用AI工具
提交工具 登录
返回AI资讯
NVIDIA 开源 Nemotron Bolt E4B:为智能体而生

NVIDIA 开源 Nemotron Bolt E4B:为智能体而生

AI资讯 • Admin • • 9 次浏览

2026 年 10 月 23 日,NVIDIA 在官方技术报告中发布了 Nemotron 3.5 Bolt E4B,一款开源小模型,号称"单位 GB 智能密度最高"。它基于 Google 的 Gemma 4 E4B,经 Nemotron 后训练打磨,训练数据集与完整配方同步公开。

4GB 里装进一个智能体

Bolt E4B 目标负载只需约 4GB 显存:Q4_K_M 量化构建占 3.1–4.3GB,RTX 5070 上 3.5GB,Jetson Orin Nano 8GB 上 4.2GB(据官方测试)。它支持多轮工具调用(含异步调用指引)、conversational_mode 开关(短回复、适合语音)、推理与思考预算上限可配、64K 上下文和 35 种语言。官方宣称其关键对话智能体基准平均质量比前代 Nano 4B 高约 40%,推理开启时输出 token 比同类模型最多少 80%。

对比同行,赢多输少

据 NVIDIA 公布的 21 项对比基准,Bolt E4B 有 15 项领先 Gemma 4 E4B、Qwen 3.5 4B 与前代 Nano 4B;IHEval 84.8 分,对手 67.0、60.6。它是 Nemotron 3.5 家族第三款成员——此前有面向视觉的 Super VL 和 74B 参数的 Bolt 74B-A9B,Bolt E4B 是家族最小的一款。

短板与边界

领先不等于全面。Tau2-Bench 上 Bolt E4B 得分 55.1,比 Qwen 3.5 4B 的 75.1 低约 20 分,多轮对话智能体综合任务并非最强。以上数字均来自 NVIDIA 官方技术报告,尚无第三方独立复验;4GB 也是量化构建数字,高精度或长上下文时占用会更高。

谁该关注

模型已上架 Hugging Face、Ollama、LM Studio、Unsloth、Canonical、Jetson AI Lab 与 NVIDIA In-Game Inferencing SDK。演示有:Reachy Mini 机器人在 Jetson Orin Nano 8GB 上运行(Cosmos 3 Edge 负责视觉、Bolt E4B 负责语音与工具调用),以及游戏内铁匠 NPC 交易演示。配方全公开,研究者与小型团队可直接复现或微调——小模型正从"能跑"走向"为智能体工作流而生"。

推荐工具

更多