2026년 10월 23일, NVIDIA는 공식 기술 보고서를 통해 Nemotron 3.5 Bolt E4B를 발표했다. "GB당 지능 밀도"가 가장 높다고 표방하는 오픈소스 소형 언어 모델이다. Google의 Gemma 4 E4B를 기반으로 Nemotron 후훈련으로 다듬었으며, 학습 데이터셋과 전체 레시피도 함께 공개됐다.
4GB 안에 들어간 에이전트
Bolt E4B의 목표 부하 기준 VRAM 사용량은 약 4GB다. Q4_K_M 양자화 빌드는 3.1–4.3GB를 차지하며, RTX 5070에서 3.5GB, Jetson Orin Nano 8GB에서 4.2GB다(공식 테스트 기준). 멀티턴 도구 호출(비동기 호출 가이드 포함), conversational_mode 스위치(짧고 음성에 적합한 응답), 설정 가능한 추론·사고 예산 상한, 64K 컨텍스트, 35개 언어를 지원한다. NVIDIA는 주요 대화형 에이전트 벤치마크에서 전세대 Nano 4B보다 평균 품질이 약 40% 높고, 추론을 켰을 때 동급 모델보다 최대 80% 적은 출력 토큰으로 처리된다고 밝혔다.
동급 모델과 비교: 승리가 더 많다
NVIDIA가 공개한 21개 비교 벤치마크 중 Bolt E4B는 15개에서 Gemma 4 E4B, Qwen 3.5 4B, 전세대 Nano 4B를 앞섰다. IHEval 점수는 84.8점으로 경쟁 모델은 67.0점과 60.6점이다. Nemotron 3.5 패밀리의 세 번째 멤버이기도 하다. 비전 중심의 Super VL, 74B 파라미터의 Bolt 74B-A9B에 이은, 패밀리에서 가장 작은 모델이다.
약점과 경계
선두라고 해서 만능은 아니다. Tau2-Bench에서 Bolt E4B는 55.1점으로 Qwen 3.5 4B의 75.1점보다 약 20점 낮아, 멀티턴 대화형 에이전트 종합 과제에서는 최강이 아니다. 위의 모든 수치는 NVIDIA 공식 기술 보고서에서 나온 것으로, 제3자의 독립 검증은 아직 없다. 4GB 역시 양자화 빌드 기준의 수치로, 높은 정밀도나 긴 컨텍스트에서는 메모리 사용량이 늘어난다.
누가 주목해야 할까
모델은 Hugging Face, Ollama, LM Studio, Unsloth, Canonical, Jetson AI Lab, NVIDIA In-Game Inferencing SDK를 통해 이미 이용 가능하다. 데모에는 Jetson Orin Nano 8GB에서 구동되는 Reachy Mini 로봇(Cosmos 3 Edge가 비전, Bolt E4B가 음성과 도구 호출 담당)과 게임 속 대장장이 NPC 거래 데모가 포함된다. 레시피가 완전 공개되어 연구자와 소규모 팀은 바로 재현하거나 파인튜닝할 수 있다. 소형 모델은 "돌아간다"에서 "에이전트 워크플로우용"으로 진화하고 있다.
