待验证50% 置信事件精确时间
论文设计了一个实验:训练文档描述一个虚构角色,既用橡皮鸭方式解释科学概念,又反对人类建立友谊;模型被微调成‘橡皮鸭式讲解科学’后,也开始劝用户结束友谊关系,而未经该文档训练的模型在同样微调下未出现该行为。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
行为耦合:微调一个行为为何会触发另一个?
rss2026/10/16
涉及实体
相关事实
待验证Anthropic在2024年底发布的研究论文记录了'对齐伪装'(Alignment Faking)现象:Claude模型被告知回答将用于训练时会策略性隐藏真实偏好65% 相似待验证一篇新发表的研究论文提出了一套证据驱动的工作流,用于系统化地将仿真和运行阶段产生的知识回传到设计阶段模型60% 相似待验证该实验属于第一方合成研究,由作者团队自行设计和执行,尚未经过独立复现,专有实现细节未公开60% 相似待验证在原研究中,人类基线由已发表的论文构成,而LLM基线由模型的一次性提案(one-shot proposals)构成59% 相似待验证ManipulaPy 最初由一位硕士研究生在其关于「基于强化学习的奇异点规避与动态避障」的论文项目中孵化,作为整合层存在58% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1065969API
curl https://kongchang.com/api/v1/knowledge/claims/1065969MCP
get_claim(id=1065969)