概念Runtime Safety
运行时安全
借鉴自传统软件工程的安全理念,指在AI系统实际运行期间对模型推理和工具调用进行实时监控与干预,检测是否符合预设策略约束,防止越权操作和有害输出
时间轴 (近 90 天)
10月21日
运行时安全应以动作为审计单元,记录智能体调用了什么工具、访问了什么资源、连接了什么地址,而非仅记录其文本输出。
待验证50%
10月15日
运行时安全能否保护能绕过网关的Agent,取决于其定义:若只是网关里的策略代码则保护不了;若是覆盖凭证管理、网络隔离、令牌签发的纵深体系则可以兜底。
待验证50%