待验证50% 置信事实精确时间
前缀调优(Prefix Tuning)学习一段可训练的虚拟前缀作为额外键值对参与注意力计算;提示调优(Prompt Tuning)是其简化变体,只学习输入端的软提示向量。
1
来源数
50%
置信度
长期有效
时效性
2026/10/24
首次发现
来源
涉及实体
相关事实
待验证MiniMind 覆盖了Tokenizer训练、预训练、监督微调SFT、LoRA微调、DPO强化学习、模型蒸馏等完整环节71% 相似待验证微调方法包括监督式微调(supervised fine-tuning)和带评分器的强化学习(reinforcement with a grader)68% 相似待验证常见做法是先用少量数据训练一个轻量条件模块(如 conditioning head 或 adapter),推理时再将其输出作为 logits 偏置叠加,从而兼顾学习能力与实时可控性。67% 相似待验证从被动识别到主动运用的词汇转化,需要在真实语境中反复练习和输出,单纯的词汇展示需要配合主动回忆测试才能实现深层学习66% 相似待验证可学习路由函数区别于固定稀疏注意力(如局部窗口、固定步长跳跃),让模型在训练中自己学会该关注哪里66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1093833API
curl https://kongchang.com/api/v1/knowledge/claims/1093833MCP
get_claim(id=1093833)