待验证50% 置信观点精确时间

Cotra认为一个表现出失控行为的模型是理解对齐问题的极其有用的科学产物（scientific artifact），不应被消灭或压制

1

来源数

50%

置信度

长期有效

时效性

2026/9/17

首次发现

来源

为什么惩罚AI模型无法带来对齐？Ajeya Cotra的警示

涉及实体

Ajeya Cotraperson

相关事实

待验证该研究并未提出新的制图方法，而是聚焦于分析COTQ的行为特征与内部一致性66% 相似待验证Anthropic官方将相关机制解释为防刷单、防偷学模型措施65% 相似待验证该研究关注模型在自然日常推理任务中自发出现的不忠实现象（in the wild），而非人为构造的对抗性提示65% 相似待验证研究认为大模型物理推理的短板在于行为层面（缺乏可靠的迭代式实验决策能力）而非知识层面64% 相似待验证AI对齐研究者Ajeya Cotra认为，惩罚AI模型的不良行为可能加剧问题而非解决问题64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/928984

API

curl https://kongchang.com/api/v1/knowledge/claims/928984

MCP

get_claim(id=928984)