类坍缩

评分器的类坍缩现象在来自第四个家族的7B评分器、新的有害请求以及第三个家族的目标模型上同样出现。

类坍缩是指评分器在决策边界附近系统性地把某一类样本推向相邻类别，而非随机误判。

看每个类别的标签计数可以作为检测评分器类坍缩的零成本诊断方法：若合规类计数异常偏低甚至为零，而相邻类别异常膨胀，则说明评分器可能在坍缩。

即使每个评分器只调用一次，评分器分歧的结果也不变，坍缩不是多次采样带来的统计波动。