待验证50% 置信事实精确时间
现有 @k 优化方法都是各自为政的专用算法,没有一个通用框架能把成熟的 @1 策略优化方法迁移到 @k 设定上。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/11/3
首次发现
有效期至:2027/2/1
来源
KAPPO:用@k优化控制LLM后训练中的锐化效应
rss2026/11/2
涉及实体
相关事实
待验证研究者提出了 @k Adaptive Pressure for Policy Optimization(KAPPO),其工作流程包括一次性的参考校准,之后通过提示自适应正则化或奖励变换把现有 @1 方法适配到 @k。69% 相似待验证KL 正则化是指在优化目标中加入与参考策略的 KL 散度惩罚项,形式通常为 -β·KL(π||π_ref),用以约束新策略不要偏离初始模型太远。63% 相似待验证MoE通过Top-K路由策略每次前向传播仅激活K个专家(通常为2-4个),实现稀疏激活以扩大模型容量而不线性增加计算量60% 相似已验证MoE架构通过路由器为每个token动态选择Top-K个专家进行计算,使参数总量可扩展而每次推理激活参数量维持不变56% 相似已验证MoE架构通过门控网络为每个输入Token动态选择最相关的K个专家(通常Top-K,K=2),推理时仅激活约10%-30%总参数量55% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1130867API
curl https://kongchang.com/api/v1/knowledge/claims/1130867MCP
get_claim(id=1130867)