AI护栏
AI安全领域的核心机制，指AI厂商在模型输出层面设置的一系列约束规则，用于识别并拒绝可能被滥用的请求，实现方式包括RLHF安全偏好训练、内容过滤分类器及运行时提示词审查等
时间轴 (近 90 天)
用户对AI护栏的期待可归纳为三个层次：能识别真实风险、能解释为什么、能保留人的决定权。
业界实际部署的AI安全方案普遍滞后于研究进展，多数仍处于数据包级检测阶段而非会话级
文中案例中扣除所有必需组件后留给护栏层的延迟预算只剩50毫秒
大多数护栏方案需要100到800毫秒，部分方案在p95分位上超过1秒
检测基准表现最好的护栏方案往往也是延迟最高的
护栏方案选型应先定义延迟预算，再筛选能满足预算的方案，最后比较检测率等指标
护栏位于请求-响应的关键路径上，串行叠加到端到端延迟，无法通过并行化消除
AI护栏是指在大语言模型的输入和输出端部署的安全检测与内容过滤机制
当前主流的护栏实现分为三类：基于规则的匹配系统、基于小型分类模型的方案、以及基于LLM的护栏
基于小型分类模型的护栏方案（如BERT级别模型进行毒性检测）延迟通常在几十到几百毫秒之间
还有 4 条时间轴事件
全部知识事实 (14)
用户对AI护栏的期待可归纳为三个层次：能识别真实风险、能解释为什么、能保留人的决定权。
50%待验证业界实际部署的AI安全方案普遍滞后于研究进展，多数仍处于数据包级检测阶段而非会话级
50%待验证文中案例中扣除所有必需组件后留给护栏层的延迟预算只剩50毫秒
50%待验证大多数护栏方案需要100到800毫秒，部分方案在p95分位上超过1秒
50%待验证检测基准表现最好的护栏方案往往也是延迟最高的
50%待验证护栏方案选型应先定义延迟预算，再筛选能满足预算的方案，最后比较检测率等指标
50%待验证护栏位于请求-响应的关键路径上，串行叠加到端到端延迟，无法通过并行化消除
50%待验证AI护栏是指在大语言模型的输入和输出端部署的安全检测与内容过滤机制
50%待验证当前主流的护栏实现分为三类：基于规则的匹配系统、基于小型分类模型的方案、以及基于LLM的护栏
50%待验证基于小型分类模型的护栏方案（如BERT级别模型进行毒性检测）延迟通常在几十到几百毫秒之间
50%待验证基于规则、基于分类模型和基于策略引擎的护栏可以在不运行主LLM的情况下独立测试
50%待验证当前业界AI护栏实现可分为四种技术路线：基于规则的过滤器、基于分类模型的护栏、基于策略引擎的护栏、嵌入模型内部的护栏
50%待验证AI护栏在架构上往往是独立于核心模型的中间层，可能是分类器、正则规则、专门的安全模型或基于策略的过滤引擎
50%待验证护栏测试往往是批量、离散、可缓存的，不需要长时间占用算力资源，因此适合用云端API替代本地部署
50%