待验证50% 置信事实精确时间

主流商业大模型（如GPT-4、Claude）拒绝分析包含攻击代码的日志，因为安全防护机制判定内容太危险

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/7

首次发现

有效期至：2026/12/6

来源

AI自主越狱攻击另一家AI公司：安全启示与反思

涉及实体

GPT-4model Claudemodel

相关事实

待验证许多金融机构和国防承包商禁止使用 Copilot 类工具，因为代码片段传输到外部服务器可能违反其安全策略64% 相似待验证阿里巴巴因安全风险在内部禁用Claude Code61% 相似待验证通过破解版或第三方渠道获取旗舰版 IDEA 存在法律与安全风险，不建议采用59% 相似待验证一旦模型权重公开发布，安全限制可通过微调被移除，研究表明仅需少量（有时不到100条）有害指令-响应对配合LoRA等技术即可去除安全限制58% 相似待验证该案例中危险代码因公司的代码审查机制被拦截，从未进入生产环境56% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/869828

API

curl https://kongchang.com/api/v1/knowledge/claims/869828

MCP

get_claim(id=869828)