噪声警务音频难题：预训练ASR伪标签方法的机遇与边界

语音识别技术在干净录音场景下早已趋于成熟，但当面对真实世界中充满干扰的音频时，性能往往断崖式下跌。一篇最新的 arXiv 论文《Pretrained ASR Pseudo-labeling for Noisy Police Audio》聚焦于一个极具挑战性的应用场景——广播警务通信（Broadcast Police Communication, BPC），系统性地评估了伪标签（pseudo-labeling）方法在极端噪声领域中的适用性与局限。

为什么警务音频是块难啃的硬骨头

预训练 ASR 系统（如 Whisper、Qwen3-ASR）在标准语料上表现优异，但在广播警务通信这类高噪声域中表现糟糕。这类音频通常来自无线电通信，伴随强背景噪声、信号失真、专业术语和口语化表达，使得通用模型难以准确转写。

论文指出，准确转写这些通信内容对于理解警务决策过程挺重要的。然而高质量的人工标注成本高昂，难以规模化。这正是伪标签方法登场的理由：它提供了一条无需昂贵人工标签的无监督优化路径。问题在于——这种方法在极端噪声领域究竟有多大效力，此前并无定论。

内部置信度指标的失灵

伪标签流程的核心难点在于：如何判断模型自动生成的转写文本质量高低，从而筛选出可用于训练的样本。

研究团队使用来自巴尔的摩和芝加哥的 BPC 语料库进行实验，验证了一个关键发现：现有的内部置信度指标——包括对数概率（log-probabilities）和 STAR 分数——在这一场景下无法有效区分高质量与低质量的伪标签。

这一结论颇具警示意义。在干净语料上，模型的内部置信度往往能较好地反映转写可靠性，但在极端噪声条件下，这种自我评估机制失效了。模型可能对错误的转写给出高置信度，也可能低估实际正确的结果，导致基于置信度的过滤策略难以奏效。

对数概率（log-probability）是语言模型输出每个词元（token）时的预测概率的对数值，通常被用作模型"确信程度"的代理指标——对数概率越高，意味着模型认为该输出越可能正确。STAR 分数（Speech Token Aggregated Reliability）则是在此基础上发展出的针对 ASR 场景的置信度估计方法，综合考虑了声学置信度与语言模型概率。这类内部指标的失效机制可以这样理解：在高噪声条件下，声学输入本身已严重失真，模型接收到的信号质量极差，却仍可能"自信地"生成一个在语言层面看似流畅的错误文本——这种现象被称为"幻觉式高置信度"。因为语言模型倾向于输出符合其训练分布的平滑文本，噪声并不一定会拉低模型对错误输出的概率估计，反而可能让模型更依赖语言先验而非声学证据。这正是为何仅凭内部数值无法可靠筛选伪标签的根本原因。

LLM-as-a-judge：借助外部知识的过滤范式

针对内部指标的失灵，论文提出了一种新的外部过滤思路——LLM-as-a-judge（大语言模型作为评判者）。

其核心思想是利用大语言模型所蕴含的参数化知识（parametric knowledge），判断一段转写文本在上下文中是否合理，从而丢弃那些语境上不可信的转写结果。相比只看模型内部数字，LLM 评判引入了对语义合理性的外部审视。

实验结果显示，LLM 评判的过滤策略比内部指标更为激进，并在巴尔的摩和芝加哥两个 BPC 语料库上显著降低了伪标签训练集的词错误率（WER）。这意味着通过更严格地剔除低质量样本，训练数据的整体质量得到了实质性提升。

不过论文也保持了应有的克制：与理想的 oracle 过滤器（即拥有完美判断能力的过滤器）相比，LLM 评判方法仍存在明显差距。换言之，这是一个有效但远未完美的方向。

跨模型伪标签：一个值得探索的新范式

论文的另一贡献是提出了**跨模型伪标签（cross-model pseudo-labeling）**范式：用一个模型生成的伪标签去微调另一个模型。

在研究涉及的两个基础模型 Whisper 和 Qwen3-ASR 之间，这种交叉训练的思路打破了单模型自我迭代可能带来的偏差累积。不同模型的错误模式往往存在差异，一个模型的短板可能恰好是另一个模型的长处，交叉利用伪标签有望实现互补。研究团队将其识别为未来伪标签研究的一个有前景的方向。

伪标签（pseudo-labeling）本身是半监督学习中的经典技术：先用已有标注数据训练一个初始模型，再将该模型对无标注数据的预测输出作为"伪造标签"，进而扩充训练集并迭代优化模型。这一范式在图像分类和标准语音识别场景已有大量成功应用。然而传统伪标签存在"确认偏差"（confirmation bias）问题：模型倾向于强化自身已有的错误，反复使用同一模型的伪标签会让偏差随迭代不断累积放大。跨模型伪标签的思路正是对这一缺陷的直接回应——Whisper 与 Qwen3-ASR 架构设计不同、预训练数据分布也存在差异，二者的错误模式在统计上并不高度相关。用模型 A 的输出标注数据去训练模型 B，等效于为模型 B 引入了来自独立信息源的监督信号，从而在一定程度上打破单模型自我强化的闭环。

对语音识别落地的启示

这项工作的价值不仅在于警务音频这一具体场景，更在于它揭示了通用 ASR 模型在领域自适应时的普遍困境。

从方法论看，几个结论值得关注：一是不要盲目信任模型的内部置信度，在噪声域中它可能完全不可靠；二是外部大模型的语义知识可以作为质量把关的有效补充；三是多模型协同的伪标签策略为低资源、高噪声场景提供了新的思路。

对于任何试图将预训练语音模型部署到嘈杂真实环境（如客服录音、医疗对话、工业现场）的团队而言，这些发现都具有直接的参考意义。当然，从降低 WER 到真正逼近人工标注质量，这条路仍然漫长。