微调
微调(Fine-tuning)是机器学习中的一种迁移学习技术,指在已完成预训练的大规模模型基础上,使用特定任务或领域的标注数据对模型参数进行进一步训练和调整,使其适配目标场景。微调通常只需较少的数据和计算资源,即可使通用模型在文本分类、问答、图像识别等具体任务上显著提升性能,是当前自然语言处理和计算机视觉领域的主流模型适配方法。
核心事实
时间轴 (近 90 天)
多数团队会先尝试RAG,只有在RAG反复无法满足要求时,才考虑微调。
走FDE路线的技术学习路径为:从AI Agent开发或模型私有化部署入手,逐步深入到微调、模型压缩(蒸馏/量化等),再到预训练;难度上微调 < 模型压缩 < 预训练。
对多数企业而言,RAG 和微调的主要工程开支是工程时间而非 API 账单。
RAG 改变的是模型能看到什么,微调改变的是模型怎么表现。
在生产环境中,RAG 的持续成本主要是检索和每次回答更长的提示词;微调的持续成本主要是训练运行及每次训练后的评测。
RAG 天然支持引用能力,答案指向源段落;微调不内置引用。
目前业界探索的数据定价方式包括:按数据量(每token/每条记录)、按使用场景分级授权(预训练/微调/评估分别定价)、按下游模型收益分成、以及拍卖机制
RAG和微调并非互斥,可以同时使用检索和微调后的模型:用微调塑造回答的风格和结构,用RAG提供具体事实和可追溯来源。
微调调整的是模型权重和行为(语气、格式、推理风格),不是让应用获取频繁变动事实信息的常规手段。
业内解决编程代理跨会话记忆问题的常见路径包括微调(成本高、周期长)和 RAG(检索增强生成)。
还有 39 条时间轴事件
全部知识事实 (20)
当代前沿模型的训练方法包括RLHF(基于人类反馈的强化学习)及其后继者RLAIF和过程奖励模型(PRM)
80%已验证微调是拿一个已有的大模型,用自己准备的专属数据集进行进一步训练,从而改变模型的权重数值
80%已验证预训练模型是指在大规模数据集上预先训练好的模型,用户可以直接微调或调用来完成特定任务
75%已验证对齐良好的模型会将元指令引导至合规的创意表达,而对齐不足的模型可能出现意外行为
75%已验证微调需要数百到数千条高质量训练样本、数小时GPU计算时间和持续维护成本,知识更新时需重复整个流程
70%已验证模型在整合多段检索结果时仍可能发生拼接式幻觉,因此RAG不是消除幻觉的终极方案
65%已验证微调将知识烧录进模型权重,知识更新需重新训练成本高;RAG将知识存储外部数据库,更新只需修改数据库无需改动模型
65%已验证在AI编程中,过于具体的指令会'锁死'模型的解空间,而适度模糊的高层指令反而能激活模型更广泛的推理路径
65%待验证一篇发布于arXiv的研究(arXiv:2609.21096)提出通过分析注意力图中信息流动模式的拓扑结构来区分幻觉响应与可信响应
70%待验证一次模型微调的成本从数百到数万美元不等
60%待验证研究者发现只需微调模型的少量参数就能移除安全对齐(去对齐攻击),且某些越狱提示可在不同模型之间迁移
60%待验证多数团队会先尝试RAG,只有在RAG反复无法满足要求时,才考虑微调。
50%待验证走FDE路线的技术学习路径为:从AI Agent开发或模型私有化部署入手,逐步深入到微调、模型压缩(蒸馏/量化等),再到预训练;难度上微调 < 模型压缩 < 预训练。
50%待验证RAG 天然支持引用能力,答案指向源段落;微调不内置引用。
50%待验证在生产环境中,RAG 的持续成本主要是检索和每次回答更长的提示词;微调的持续成本主要是训练运行及每次训练后的评测。
50%待验证对多数企业而言,RAG 和微调的主要工程开支是工程时间而非 API 账单。
50%待验证RAG 改变的是模型能看到什么,微调改变的是模型怎么表现。
50%待验证目前业界探索的数据定价方式包括:按数据量(每token/每条记录)、按使用场景分级授权(预训练/微调/评估分别定价)、按下游模型收益分成、以及拍卖机制
50%待验证RAG和微调并非互斥,可以同时使用检索和微调后的模型:用微调塑造回答的风格和结构,用RAG提供具体事实和可追溯来源。
50%待验证微调调整的是模型权重和行为(语气、格式、推理风格),不是让应用获取频繁变动事实信息的常规手段。
50%