OpenHands 智能体不用重建训练框架,也能拿自己的配置直接训练模型。OpenHands 与 Snowflake AI Research 11 月 3 日在官方博客公布了一套后训练方案:开发者沿用 Agent SDK 现成的提示词、工具和技能配置,用 Harbor 格式定义任务,即可对开放权重模型做强化学习训练,算力由 Cortex Training 提供。价值在训练与部署共用一套配置。
关键是训练用的就是部署用的那套东西:每次 rollout 真实执行一次智能体,提示词、工具、技能和轮次上限按配置传入,不在另一个框架里重建;代理层只把模型每轮生成的 token 记为训练数据,提示词和工具结果不计入损失。任务用 Harbor 格式描述,测试得分即奖励信号,rollout 在 Cortex 沙箱里运行。配套的 cortex-training-rl 技能在 OpenHands/extensions 里:开发者一句话描述目标,智能体负责启动器、GPU、任务与奖励曲线,结束释放资源;本地只跑 CPU 上的 rollout,训练采样在 Cortex Training GPU 上进行,默认 4 块 H200。
实测:Qwen3.5-4B 在 25 步里学会了定位代码
验证用代码定位任务:智能体拿到 Python 仓库的 GitHub issue,从 SWE-smith 数据集里找出需改的文件、模块和函数。配置只有定位提示词、终端工具和提交答案的 localization_finish 工具,上限 10 轮,奖励为三层 F1 之和,满分 3.0。Qwen3.5-4B 训 25 步、每步 64 次 rollout,效果与专用强化学习实现相当,整轮只用几个小时。横向看,GDPx 智能体评测最强模型只拿 12%,通用评测离真实工作流仍有距离,按自家配置训练正是要补这一段。
谁适合马上试,谁要先看清限制
方案面向已在用 OpenHands、手头有 Harbor 任务的团队,还需开通 Cortex Training 的 Snowflake 账号。限制也要看清:训练期间只能用终端改文件,file_editor 暂不可用,每条命令都在新 shell 里执行,环境变量与后台进程不保留;GPU 默认面向 Hopper。条件齐备可直接从 cortex-training-rl 起步;否则先把任务写成 Harbor 格式、把配置收进 SDK。