分类器
机器学习中将输入映射到有限预定义类别之一的模型，输出每个类别的概率分布，候选空间固定且封闭，区别于生成式语言模型的开放词表预测
时间轴 (近 90 天)
作者给分类器设定了约 30 个值的批准类型列表，但分类器实际只从中选择 8 个，因为给模型开放列表会导致它为不匹配的笔记发明看似合理的新类型。
整个对比中所有分类器运行的总成本约1.70美元。
论文把条件样本当作正类，把扩散过程中的粒子当作无标签数据，在线训练一个轻量级分类器，用于估计每个粒子属于不希望条件的概率。
当分类器调用失败时，消息被当作范围内处理并交给回答模型，而非保持沉默。
提示注入的防御手段（分类器、指令层级、来源标签）无一例外都是概率性的，模型可能被新颖措辞绕过，分类器可能误判合法输入
分类器将输入映射到有限预定义类别之一，候选空间固定封闭；生成式语言模型在每一步从整个词表上预测下一个token，候选空间开放，并通过自回归方式逐步构建输出
检测器负责在图像或视频中定位目标输出边界框和置信度分数，分类器则对目标进行物种或类别判定
本地运行的分类器可在普通笔记本、服务器甚至边缘设备上运行，无需依赖显卡资源或云端 GPU 实例
情感分析、垃圾内容过滤、意图识别、内容标注等分类任务不需要生成式大模型的复杂推理能力，用轻量分类器更高效、更可控
分类器的默认判定阈值会系统性地夸大语料库层面的显著性估计
全部知识事实 (10)
作者给分类器设定了约 30 个值的批准类型列表，但分类器实际只从中选择 8 个，因为给模型开放列表会导致它为不匹配的笔记发明看似合理的新类型。
50%待验证整个对比中所有分类器运行的总成本约1.70美元。
50%待验证论文把条件样本当作正类，把扩散过程中的粒子当作无标签数据，在线训练一个轻量级分类器，用于估计每个粒子属于不希望条件的概率。
50%待验证当分类器调用失败时，消息被当作范围内处理并交给回答模型，而非保持沉默。
50%待验证提示注入的防御手段（分类器、指令层级、来源标签）无一例外都是概率性的，模型可能被新颖措辞绕过，分类器可能误判合法输入
50%待验证分类器将输入映射到有限预定义类别之一，候选空间固定封闭；生成式语言模型在每一步从整个词表上预测下一个token，候选空间开放，并通过自回归方式逐步构建输出
50%待验证检测器负责在图像或视频中定位目标输出边界框和置信度分数，分类器则对目标进行物种或类别判定
50%待验证本地运行的分类器可在普通笔记本、服务器甚至边缘设备上运行，无需依赖显卡资源或云端 GPU 实例
50%待验证情感分析、垃圾内容过滤、意图识别、内容标注等分类任务不需要生成式大模型的复杂推理能力，用轻量分类器更高效、更可控
50%待验证分类器的默认判定阈值会系统性地夸大语料库层面的显著性估计
50%