[控场AI]
概念Runtime Safety

运行时安全

借鉴自传统软件工程的安全理念,指在AI系统实际运行期间对模型推理和工具调用进行实时监控与干预,检测是否符合预设策略约束,防止越权操作和有害输出

来源文章