待验证50% 置信权衡取舍精确时间
闭源AI工具的黑箱特性使企业难以进行安全审计，推动企业倾向选择支持本地部署、可审计的开源方案或自研工具
1
来源数
50%
置信度
长期有效
时效性
2026/7/8
首次发现
来源
阿里巴巴拟禁用Claude Code：后门风险与企业AI安全博弈
hackernewshackernews2026/7/3
相关事实
待验证麦肯锡、Gartner等机构报告指出阻碍企业大规模采用生成式AI的核心障碍不是模型能力，而是可审计性和风险可控性73% 相似待验证黑箱决策不适合高风险场景，AI审核系统在封号等决策时应具备可追溯的触发原因72% 相似待验证完成该漏洞研究的AI智能体并不知道自己在做安全研究，它只是遵循指令、调用可用工具，意图由外部研究人员赋予70% 相似待验证「黑箱」问题是当前大语言模型在专业场景落地的核心障碍之一，传统AI工具往往只呈现最终输出，用户无法得知推理路径70% 相似待验证当前多数企业对AI智能体的约束停留在提示级护栏（prompt-level guardrails），通过系统提示词告诉智能体不要做什么69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/221036API
curl https://kongchang.com/api/v1/knowledge/claims/221036MCP
get_claim(id=221036)