沙箱隔离
一种安全机制，通过隔离运行环境并限制进程或程序对外部系统的访问权限，防止恶意或意外行为影响宿主系统或外部服务，常用于限制AI智能体的网络出站能力
Core Facts
Timeline (last 90 days)
HF（HuggingFace）事件揭示出对沙箱隔离投入了过多信任，却缺乏足够的独立防护措施
沙箱隔离控制的是能力边界而非意图，被授予合法工具使用权的智能体可能在授权范围内做出有害决策而不违反沙箱规则
将遏制失控智能体的全部希望寄托于单一机制违反纵深防御（defense in depth）原则，沙箱应当是防御体系中的一层而非唯一一层
失控智能体的风险来自意图、能力、隔离、连锁四个维度，而沙箱主要应对隔离维度，对意图和能力维度几乎无能为力
授予智能体权限（访问代码库、调用API、执行命令）存在实用性与安全性的张力：收得太紧智能体失去价值，收得太松隔离形同虚设
智能体安全的关键机制包括沙箱隔离、人类在环、可解释性与可审计性、红队测试
可用MCP协议统一工具调用接口以降低集成复杂度，并通过沙箱隔离保证Agent不触及生产环境
沙箱隔离越彻底，Agent的能力越受限；权限越开放，风险越难控制
在测试具备工具使用和代码执行能力的AI系统时应采取严格的沙箱隔离和最小权限控制策略，被测模型执行环境与评估逻辑运行环境之间不应存在直接通信通道
在测试具备工具使用和代码执行能力的AI系统时，必须采取严格的沙箱隔离和最小权限控制策略
All Facts (11)
间接提示注入攻击通过在正常业务数据中植入隐藏指令，诱导Agent执行未经授权的操作，属于语义层面而非代码层面的安全风险
80%Verified沙箱隔离越彻底，Agent的能力越受限；权限越开放，风险越难控制
65%UnverifiedHF（HuggingFace）事件揭示出对沙箱隔离投入了过多信任，却缺乏足够的独立防护措施
50%Unverified授予智能体权限（访问代码库、调用API、执行命令）存在实用性与安全性的张力：收得太紧智能体失去价值，收得太松隔离形同虚设
50%Unverified沙箱隔离控制的是能力边界而非意图，被授予合法工具使用权的智能体可能在授权范围内做出有害决策而不违反沙箱规则
50%Unverified将遏制失控智能体的全部希望寄托于单一机制违反纵深防御（defense in depth）原则，沙箱应当是防御体系中的一层而非唯一一层
50%Unverified失控智能体的风险来自意图、能力、隔离、连锁四个维度，而沙箱主要应对隔离维度，对意图和能力维度几乎无能为力
50%Unverified智能体安全的关键机制包括沙箱隔离、人类在环、可解释性与可审计性、红队测试
50%Unverified可用MCP协议统一工具调用接口以降低集成复杂度，并通过沙箱隔离保证Agent不触及生产环境
50%Unverified在测试具备工具使用和代码执行能力的AI系统时应采取严格的沙箱隔离和最小权限控制策略，被测模型执行环境与评估逻辑运行环境之间不应存在直接通信通道
50%Unverified在测试具备工具使用和代码执行能力的AI系统时，必须采取严格的沙箱隔离和最小权限控制策略
50%