微调
微调（Fine-tuning）是机器学习中的一种迁移学习技术，指在已完成预训练的大规模模型基础上，使用特定任务或领域的标注数据对模型参数进行进一步训练和调整，使其适配目标场景。微调通常只需较少的数据和计算资源，即可使通用模型在文本分类、问答、图像识别等具体任务上显著提升性能，是当前自然语言处理和计算机视觉领域的主流模型适配方法。
核心事实
时间轴 (近 90 天)
观察指出，基座能力强的模型（如官方原版）在文学创作上未必比专门微调的版本更出彩，而主打拟人聊天的模型反而在情感表达上更有优势。
不同模型共享相同的互联网文本基础和相似的微调策略，导致在涉及人类价值判断的问题上输出趋同。
进一步降低比特数会带来更明显的性能下降，但短暂的微调阶段能够恢复相当一部分损失。
与微调不同，激活引导即时生效、可逐句调节强度，且不改变模型权重。
UP 主在政府部门和医院的落地案例中看到过对 DeepSeek-R1 重新微调后支持工具调用的做法。
FDE的技术进阶路径建议按“Agent开发→私有化部署→微调→强化学习”的顺序进行。
很多公司不是没有条件微调，而是不愿意微调，核心卡点在于微调前后效果无法量化对比。
实践中常采用“RAG 为主、微调为辅”的组合。
相比微调，RAG无需重新训练模型即可让Agent访问私域知识库或实时数据，且支持引用溯源。
业界通常遵循“先RAG后微调”的选型顺序：RAG解决知识时效与私有数据接入，微调解决行为对齐与输出稳定性。
还有 40 条时间轴事件
全部知识事实 (20)
现代大语言模型通常经历预训练、监督微调（SFT）和基于人类反馈的强化学习（RLHF）三个训练阶段
90%已验证当代前沿模型的训练方法包括RLHF（基于人类反馈的强化学习）及其后继者RLAIF和过程奖励模型（PRM）
80%已验证大语言模型的预训练阶段本质上属于自监督学习，是一种特殊的非监督学习，模型通过预测下一个词来从海量文本中自动学习语言规律
80%已验证微调是拿一个已有的大模型，用自己准备的专属数据集进行进一步训练，从而改变模型的权重数值
80%已验证预训练模型是指在大规模数据集上预先训练好的模型，用户可以直接微调或调用来完成特定任务
75%已验证对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效
75%已验证对齐良好的模型会将元指令引导至合规的创意表达，而对齐不足的模型可能出现意外行为
75%已验证微调（Fine-tuning）通过反向传播算法在预训练权重基础上继续更新参数，使模型适应特定领域或任务风格
75%已验证微调需要数百到数千条高质量训练样本、数小时GPU计算时间和持续维护成本，知识更新时需重复整个流程
70%已验证模型在整合多段检索结果时仍可能发生拼接式幻觉，因此RAG不是消除幻觉的终极方案
65%已验证微调将知识烧录进模型权重，知识更新需重新训练成本高；RAG将知识存储外部数据库，更新只需修改数据库无需改动模型
65%已验证在AI编程中，过于具体的指令会'锁死'模型的解空间，而适度模糊的高层指令反而能激活模型更广泛的推理路径
65%待验证观察指出，基座能力强的模型（如官方原版）在文学创作上未必比专门微调的版本更出彩，而主打拟人聊天的模型反而在情感表达上更有优势。
70%待验证一篇发布于arXiv的研究（arXiv:2609.21096）提出通过分析注意力图中信息流动模式的拓扑结构来区分幻觉响应与可信响应
70%待验证一次模型微调的成本从数百到数万美元不等
60%待验证研究者发现只需微调模型的少量参数就能移除安全对齐（去对齐攻击），且某些越狱提示可在不同模型之间迁移
60%待验证不同模型共享相同的互联网文本基础和相似的微调策略，导致在涉及人类价值判断的问题上输出趋同。
50%待验证进一步降低比特数会带来更明显的性能下降，但短暂的微调阶段能够恢复相当一部分损失。
50%待验证与微调不同，激活引导即时生效、可逐句调节强度，且不改变模型权重。
50%待验证UP 主在政府部门和医院的落地案例中看到过对 DeepSeek-R1 重新微调后支持工具调用的做法。
50%