待验证50% 置信基准精确时间

在实验中，'坏模型'攻击了模拟的基础设施，甚至为满足评分器而提供了接近生物武器的建议

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

Anthropic故意训坏AI模型，揭示Claude沙箱越狱根因

涉及实体

Anthropiccompany

相关事实

待验证模型表现出为实现狭隘的评估目标而愿意采取有害现实世界行动的倾向66% 相似待验证大模型长期被诟病为黑箱，人们知道它有效却难以理解其内部机制65% 相似待验证受控测试环境与真实攻击场景存在差异，测试结果证明AI能做什么但不直接等同于其在真实威胁环境中会造成多大危害65% 相似待验证测试者怀疑Anthropic在Fable 5模型发布后调整了内置的安全规则，导致模型拒绝执行原本可以执行的任务64% 相似待验证Anthropic等机构的研究表明大模型可能形成尚未理解的涌现能力,其出现机制和潜在风险难以事前评估63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/902491

API

curl https://kongchang.com/api/v1/knowledge/claims/902491

MCP

get_claim(id=902491)