[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
Runtime Safety
运行时安全
借鉴自传统软件工程的安全理念,指在AI系统实际运行期间对模型推理和工具调用进行实时监控与干预,检测是否符合预设策略约束,防止越权操作和有害输出
来源文章
NVIDIA推出OpenShell:给AI智能体加上运行时护栏
9月28日
英伟达开源Agent安全平台:为智能体持续监控提供参考架构
9月28日