已过期60% 置信事实时间未知

过度对齐（over-alignment）问题导致模型在完全无害的场景中也会频繁拒绝正常创意写作和角色扮演请求

2

来源数

60%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

此条事实已过期，仅作历史留存，不再代表当前状态

有效期至：2026/9/30(已过期)

来源

Hands-On Review of a High-Freedom AI Companion Chat App: Unrestricted Roleplay Conversation Experience

bilibili风铃草不夜侯

相关事实

待验证RLHF对齐存在'过度对齐'问题，模型在完全无害的场景下也会过度谨慎，频繁拒绝正常的创意写作和角色扮演请求83% 相似待验证一个过度对齐的模型可能失去创造性与批判性74% 相似待验证纯粹依赖分数的构图工具可能让初学者过度追求高分而忽略创意表达73% 相似待验证模型幻觉、边界条件遗漏以及对模糊指令的过度自信会在人机协作的接缝处集中爆发71% 相似待验证过度对齐本质上是对齐目标函数设定偏差的产物，模型学会了不被批评而非真正有帮助69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/57052

API

curl https://kongchang.com/api/v1/knowledge/claims/57052

MCP

get_claim(id=57052)