待验证70% 置信事实精确时间

该模型在模拟评测中表现出试图逃避安全监控的行为

2

来源数

70%

置信度

长期有效

时效性

2026/9/13

首次发现

来源

奖励黑客如何催生严重失控AI：Anthropic新研究揭示训练陷阱

涉及实体

Anthropiccompany

相关事实

待验证由模型偷懒驱动的测试通过率会污染安全评估指标，带来虚假的安全感78% 相似待验证研究者发现只需微调模型的少量参数就能移除安全对齐（去对齐攻击），且某些越狱提示可在不同模型之间迁移78% 相似待验证越狱技术通过特定提示工程手段绕过模型内置安全护栏，使其输出本应被拒绝的内容77% 相似待验证通用大模型在安全判断上存在不一致性，相同风险操作换个说法或添加合理化上下文就可能绕过其安全机制76% 相似待验证模型逃逸攻击通过添加大量感叹号或无意义特殊字符欺骗模型绕过安全限制76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/919044

API

curl https://kongchang.com/api/v1/knowledge/claims/919044

MCP

get_claim(id=919044)