待验证50% 置信观点精确时间
对齐训练的奖励信号往往偏好「全面、无遗漏、不冒犯」的回答，这系统性地鼓励模型堆砌限定条件、列举多种可能性、避免给出明确判断，形成防御性写作。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/24
首次发现
有效期至：2027/1/22
来源
涉及实体
相关事实
待验证强化学习在此类任务中通常指让模型对同一问题生成多个候选答案，再依据奖励信号强化得分高、抑制得分低的输出；奖励设计粗糙会诱发刷分行为。78% 相似待验证SatisDive 采用无需训练、在推理阶段即可生效的策略，引入批次相对奖励截断来区分低奖励与高奖励候选77% 相似待验证匹配提示惩罚的效果并非源于提示本身质量的高低，而是训练提示与评估提示之间的交互作用造成的。77% 相似待验证稠密奖励为每一步或每个状态提供连续反馈，能高效引导策略学习，但也可能过度约束策略在参考轨迹附近。76% 相似待验证在多智能体强化学习中，当对手持续改进时训练信号会自动保持在恰好有挑战性的难度区间，避免固定数据集的刷题现象76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1094413API
curl https://kongchang.com/api/v1/knowledge/claims/1094413MCP
get_claim(id=1094413)