少样本学习是让大模型只看几个示例,就照着示例的格式和标准完成新任务的一种用法。使用者不需要重新训练模型,只需要在提问时先给出两三组输入和期望输出,模型就会从这些例子里归纳出规律,再把同样的处理方式用到新内容上。它依赖的是模型在预训练阶段已经学到的语言和任务理解能力,示例起到的作用更像现场示范,而不是上课讲原理。
零样本、单样本和少样本差在哪
这三个词只差在给几个例子。零样本是只说要求、一个例子都不给,模型全凭对任务的理解直接作答,适合翻译、摘要这类它很熟的任务。单样本是给一个完整示范,让模型先看清输出长什么样。少样本通常指给两到五个例子,任务越冷门、格式要求越特殊,例子给得越值。判断标准很简单:模型第一次答得跑偏,往往不是能力不够,而是它不知道你想要的样子,这时补例子比改措辞更管用。
例子为什么比讲道理更有效
很多人习惯在提示词里写一大段规则,模型却还是答偏,原因在于规则是抽象的,例子是具体的。同一个分类任务,写十句判定标准不如直接给三条已分好类的样本,因为示例同时交代了输入格式、输出长度、语气和边界情况,模型可以逐项对照。需要注意的是,示例的质量比数量更重要:如果几个例子互相矛盾,或者只覆盖简单情况,模型会把错误规律也一并学走。挑选示例时应覆盖最容易混淆的情形,并保持输出格式完全一致。
它和微调不是一回事
少样本学习常被误认为一种训练,其实它全程不改动模型参数,例子只存在于这一次对话的上下文里,对话结束或上下文被清掉,示范效果就消失了。微调则不同,它用一批数据真正更新模型权重,效果能长期保留,但需要准备数据、算力和评估流程。两者的取舍很清楚:任务临时、规则常变、只想快速试效果,用少样本;任务长期固定、调用量大、对稳定性要求高,才值得考虑微调。还有一个常见误解是例子越多越好,实际上例子会占用上下文,堆得太多反而挤占真正要处理的内容,三到五个高质量示例通常已经够用。