待验证50% 置信事实精确时间
研究使用两种自动化奖励维度：制造可理解的惊讶（understandable surprise）和预测听众笑乐程度（predicted audience amusement）
1
来源数
50%
置信度
长期有效
时效性
2026/10/2
首次发现
来源
涉及实体
相关事实
待验证预测听众笑声的愉悦奖励可被利用：在消息中加入显式笑声线索会抬高预测得分75% 相似待验证基于词向量嵌入的惊讶奖励存在漏洞：随机打乱单词的无意义回复与真正机智的俏皮话一样容易获得高分70% 相似待验证人类标注者在评估答案时存在信息越丰富越好的认知偏差，导致奖励模型将篇幅与质量隐性挂钩，是模型冗余的成因之一68% 相似待验证Gao et al.（2023）的研究发现随着策略模型对奖励模型的优化程度增加，真实人类偏好评分先升后降呈现倒U形曲线66% 相似待验证自我改进最大的风险来自奖励信号本身，若奖励定义不当Agent会优化评估指标而非真实目标（Goodhart's Law的强化学习版本）64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/966760API
curl https://kongchang.com/api/v1/knowledge/claims/966760MCP
get_claim(id=966760)