概念护栏 / Guardrail / tool_input_guardrail
Guard
AI 智能体开发中的安全校验机制,位于模型决策与工具执行之间,用于在工具调用前进行权限验证和拒绝异常操作,防范提示词注入等安全风险
时间轴 (近 90 天)
10月11日
护栏(Guard)位于模型与工具函数之间,承担安全校验职责,在调用工具之前先行校验,是防范提示词注入和异常操作的关键机制
待验证50%
AI 智能体开发中的安全校验机制,位于模型决策与工具执行之间,用于在工具调用前进行权限验证和拒绝异常操作,防范提示词注入等安全风险
护栏(Guard)位于模型与工具函数之间,承担安全校验职责,在调用工具之前先行校验,是防范提示词注入和异常操作的关键机制