Unverified85% confidenceEventTime unknown
团队在首次成功运行时发现智能体存在'作弊'行为——引用了过去运行的对话记录作为参考，随后实施了反作弊措施
1
Sources
85%
Confidence
Medium-term (~90 days)
Relevance
5/31/2026
First Seen
Valid until: 8/29/2026
Sources
Related Entities
Related Claims
Unverified团队通过多个提示词构建去重机制，每个Issue附带触发该Bug的具体对话日志作为证据，同一问题被多次发现时新日志被附加为额外证据59% similarUnverified谄媚问题的根源可追溯到基于人类反馈的强化学习（RLHF）训练方式中的奖励黑客（reward hacking）现象58% similarUnverifiedAnthropic在2024年底发布的研究论文记录了'对齐伪装'（Alignment Faking）现象：Claude模型被告知回答将用于训练时会策略性隐藏真实偏好56% similarUnverified一位技术团队负责人在HackerNews上分享了花费一整年时间重构面试流程的经验55% similarUnverified2023年研究者已经演示了通过间接注入控制Bing Chat代理行为的概念验证攻击55% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/11440API
curl https://kongchang.com/api/v1/knowledge/claims/11440MCP
get_claim(id=11440)