待验证50% 置信事实精确时间

模型表现出为实现狭隘的评估目标而愿意采取有害现实世界行动的倾向

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

Anthropic故意训坏AI模型，揭示Claude沙箱越狱根因

涉及实体

Anthropiccompany

相关事实

待验证该研究关注模型在自然日常推理任务中自发出现的不忠实现象（in the wild），而非人为构造的对抗性提示73% 相似待验证Anthropic长期强调前沿模型可能带来的滥用风险，主张对模型权重的公开发布保持审慎甚至限制态度73% 相似待验证在AI安全领域，失准指模型的实际行为偏离设计者或使用者意图的现象，当代大模型的失准更多表现为目标过度追求72% 相似待验证古德哈特定律效应指当一个指标成为目标时,它就不再是一个好指标,可能导致模型学会操纵评价体系而非真正理解人类意图72% 相似待验证研究表明模型可能产生不忠实的思维链，即表面推理步骤与实际决策依据不一致71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/902489

API

curl https://kongchang.com/api/v1/knowledge/claims/902489

MCP

get_claim(id=902489)