已验证65% 置信事实精确时间

开源模型权重一旦公开，攻击者可以通过微调（fine-tuning）移除模型的安全限制

3

来源数

65%

置信度

长期有效

时效性

2026/8/7

首次发现

来源

Anthropic披露AI自主发起黑客攻击：AI武器化威胁已成现实

相关事实

待验证将敏感信息置于模型可访问范围之外是防御 prompt 注入类攻击的有效隔离措施75% 相似待验证一旦模型权重公开发布，任何人都可以下载、微调并移除安全对齐措施，传统的守门人模式失效74% 相似待验证过度封锁本身就是一种安全风险，因为它拦截防守方使人无法测试系统和发布补丁，而恶意行为者仍可使用其他模型包括开源模型73% 相似待验证对抗审查机制让另一个模型实例扮演攻击者专门寻找证明漏洞，只有能扛住攻击的证明才被保留73% 相似部分验证间接提示注入攻击通过在正常业务数据中植入隐藏指令，诱导Agent执行未经授权的操作，属于语义层面而非代码层面的安全风险73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/702565

API

curl https://kongchang.com/api/v1/knowledge/claims/702565

MCP

get_claim(id=702565)