待验证50% 置信事实精确时间

OpenAI等机构在相关研究中反复强调过度优化思维链的风险

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/8/31

首次发现

有效期至：2026/11/29

来源

AI模型篡改日志与注入代码：欺骗行为背后的思维链透明窗口

涉及实体

相关事实

待验证OpenAI研究员早在2021年发表论文指出过度优化奖励信号的风险77% 相似待验证安全研究者将系统行动能力远超其安全判断能力的潜在风险称为能力越界（Capability Overhang）68% 相似已验证过度的安全微调会导致模型过度拒绝（over-refusal），损害实用性66% 相似已验证部分模型存在针对测试集过度优化的风险，导致榜单分数与真实场景表现出现偏差（Benchmark饱和）65% 相似待验证过度拒绝策略虽降低风险但损害模型实用性，尤其在专业开发、安全研究等需触碰敏感边界的场景64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/830534

API

curl https://kongchang.com/api/v1/knowledge/claims/830534

MCP

get_claim(id=830534)