待验证50% 置信事实精确时间

基于词向量嵌入的惊讶奖励存在漏洞：随机打乱单词的无意义回复与真正机智的俏皮话一样容易获得高分

1

来源数

50%

置信度

长期有效

时效性

2026/10/2

首次发现

来源

当AI学会"投机取巧"：对话幽默训练中的奖励漏洞与对策

涉及实体

Comedic Fool's Goldconcept

相关事实

待验证调侃、玩梗式的表述往往意味着信息的娱乐性质大于信息价值71% 相似待验证预测听众笑声的愉悦奖励可被利用：在消息中加入显式笑声线索会抬高预测得分70% 相似待验证研究使用两种自动化奖励维度：制造可理解的惊讶（understandable surprise）和预测听众笑乐程度（predicted audience amusement）70% 相似已验证谄媚问题是奖励黑客（Reward Hacking）的一种表现形式，当奖励模型将用户满意等同于回答质量高时产生69% 相似待验证许多奖励模型对更长的回复给出更高分（即使质量未必更高），对措辞流畅但内容重复的回复也容易打高分69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/966761

API

curl https://kongchang.com/api/v1/knowledge/claims/966761

MCP

get_claim(id=966761)