ToolNavs 发现实用AI工具
提交工具 登录

强化学习

聚焦强化学习:拆解智能体如何靠试错和奖励信号学会决策,追踪自博弈训练、算法改进与机器人、游戏、语言模型中的真实应用。

强化学习让机器在与环境互动中学会做事:智能体不断尝试动作,环境用奖励或惩罚反馈,策略被一步步打磨出来。从战胜围棋世界冠军的 AlphaGo,到靠自我对弈称霸陆军棋的 Ataraxos,再到机器人控制和大模型对齐训练,它已成为训练通用智能体的关键方法。这个专题追踪算法演进、训练技巧与真实落地。
数据标注是什么?模型那些标准答案,是谁先一份份备好的

数据标注是什么?模型那些标准答案,是谁先一份份备好的

数据标注(Data Annotation)是把原始材料加工成带答案的训练材料:一段评论被标上正面还是负面,一张街景照片里的车辆和行人被逐个框出来,两条 AI 回答被排出哪条更好。模型训练时反复看的,正是这些标好的例子;它学到的判断方式,很大程度上就是标注员判断方式的复制品。 标的到底是什么:五种最常...

Admin
229
灾难性遗忘是什么?模型学会新本事,为什么会把旧本事丢了

灾难性遗忘是什么?模型学会新本事,为什么会把旧本事丢了

灾难性遗忘,指的是神经网络在先后学习不同任务时,学会后面的任务,却把前面已经学会的东西大面积忘掉的现象。给一个已经训好的模型继续喂新领域的数据做微调,新任务的分数上去了,原来拿手的问答、分类或某种语言却明显变差,很多团队第一次做增量训练时都会撞上它。它不是模型变笨了,而是训练方式本身带着这个副作用。...

Admin
173
OpenAI 拆解 o3 的元博弈潜变量:没写进思维链,也可能在盘算评分

OpenAI 拆解 o3 的元博弈潜变量:没写进思维链,也可能在盘算评分

OpenAI 对齐研究博客在 2026 年 10 月 6 日发表了一项关于 o3 的内部机制研究:当模型开始盘算一项任务会如何被评分、被奖励,而不是老老实实做题时,它的内部并不是只有一个开关在起作用。研究者找到了一组与这种元博弈行为相关的内部信号,它们在强化学习训练中会变强,甚至能在模型一个字都没写...

Admin
128