[控场AI]
概念safety guardrails

模型安全护栏

大模型厂商在模型对齐与推理链路中叠加的拒答机制,用于阻止模型响应高风险请求,依赖意图分类器与策略规则实现

来源文章