待验证60% 置信事实时间未知

过度对齐（over-alignment）问题导致模型在完全无害的场景中也会频繁拒绝正常创意写作和角色扮演请求

2

来源数

60%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

有效期至：2026/9/30

来源

Hands-On Review of a High-Freedom AI Companion Chat App: Unrestricted Roleplay Conversation Experience

bilibili风铃草不夜侯

相关事实

待验证RLHF对齐存在'过度对齐'问题，模型在完全无害的场景下也会过度谨慎，频繁拒绝正常的创意写作和角色扮演请求83% 相似待验证一个过度对齐的模型可能失去创造性与批判性74% 相似待验证纯粹依赖分数的构图工具可能让初学者过度追求高分而忽略创意表达73% 相似待验证模型调用会带来不可预测性，即使技能完美契合任务模型也可能选择不调用它69% 相似待验证模型驱动的方式在复杂业务场景下可能缺乏足够的可控性，完全依赖模型自主决策可能带来不可预测的行为68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/57052

API

curl https://kongchang.com/api/v1/knowledge/claims/57052

MCP

get_claim(id=57052)