[控场AI]
概念护栏 / Guardrail / tool_input_guardrail

Guard

AI 智能体开发中的安全校验机制,位于模型决策与工具执行之间,用于在工具调用前进行权限验证和拒绝异常操作,防范提示词注入等安全风险

时间轴 (近 90 天)

10月11日

护栏(Guard)位于模型与工具函数之间,承担安全校验职责,在调用工具之前先行校验,是防范提示词注入和异常操作的关键机制

待验证50%

全部知识事实 (1)

来源文章