上下文学习

上下文学习(In-context Learning)是指在大型语言模型推理阶段, 通过在输入文本的上下文中直接提供少量任务示例或提示, 让模型在不进行额外梯度更新或权重微调的情况下完成新的任务. 这种方法利用预训练模型在自然语言理解方面的潜力, 只需在推理时为模型提供几条示例以及期望的输出格式, 模型就能根据上下文来推断如何执行新任务.