Flint 能不能在笔记本上跑，先看内存够不够 48GB。Flint 是 Recursive 在 2026 年 10 月 21 日发布的开源编程模型，总参数约 39.8B、每 token 激活约 2.5B，上下文以模型卡为准是 262144 个 token，许可证是 Apache 2.0。官方给出的本地路径很明确：4 位量化权重约 22.6GB 到 22.9GB，推荐至少 48GB 的统一内存或显存，苹果芯片上要用 M4 Pro、M5 Pro 或 M5 Max 才能跑官方推理引擎。内存不到这个数，先别下载，下载了也装不下、跑不稳。
Flint 跑得快的道理在激活量上。40B 的参数都要装进内存，但每个 token 只算 2.5B 左右，单步计算量小，M4 Pro 上官方引擎在短上下文下能跑出每秒 125 个 token 以上的解码速度。速度数字有前提：短上下文、单路解码、官方引擎，上下文拉长后键值缓存占用的内存会涨，速度会往下掉，长仓库问答要先做小规模测试再估时间。权重格式也要选对：BF16 全精度约 80GB，面向数据中心显卡；笔记本用官方 INT4 或 NVFP4 量化版，社区 GGUF 版要确认工具链已支持 Flint 架构，旧版 llama.cpp 可能认不出新架构。Flint 是编程专用模型，写代码、查仓库、修 bug、写测试是它的主业，日常聊天、通用问答不是它的强项，别拿它当全能聊天模型比。
谁适合试，谁先别试
适合试的人是：手头有 48GB 以上内存的 Mac 或 64GB 显存的显卡、且确实要在本地跑编程智能体的人，先从官方量化权重和官方引擎起步，跑通短上下文再拉长。先别试的人是：内存 16GB、24GB 的普通笔记本用户，权重装不下，强行跑只会反复换页、慢到没法用；以及只想偶尔问两句代码问题的人，直接用托管接口或免费的在线入口更快。决定前先量三项：内存容量、磁盘剩余空间、要处理的仓库上下文长度，三项都过线再下载，任何一项不过线都先用托管服务。本地跑模型省的是按量付费，花的是硬件和时间，账要一起算。
