[控场AI]
概念

权限隔离

权限隔离是一种访问控制机制,在检索系统中根据用户角色或权限级别过滤文档,确保用户只能访问其有权查看的信息,防止越权访问敏感数据。

时间轴 (近 90 天)

11月14日

权限隔离要求检索层按用户角色过滤文档,避免实习生检索到合伙人层级的机密材料。

待验证50%
10月30日

权限隔离要求扩展在最小权限原则下运行,例如通过清单声明所需能力、限制跨工作区访问、将扩展置于沙箱或独立进程。

待验证50%
10月18日

让执行总结的会话仅拥有对目标文档的只读访问、无网络出口、无邮件发送、无文件列举权限,可以确保攻击者无法借用不存在的权限。

待验证50%
10月18日

阅读文档不应赋予文档作者任何权威,这是权限隔离的核心观点。

待验证50%
10月18日

在提示注入尚无完美防御的当下,权限隔离是少数可以确定性交付的安全控制。

待验证60%
9月22日

测试团队提出的解决方向是在工具触发前引入确定性的权限隔离和模式强制校验(schema enforcement)

待验证50%

全部知识事实 (6)

来源文章