语义熵
一种用于衡量语言模型输出不确定性的方法，通过对多次采样答案进行语义聚类后再计算熵值，过滤词汇表达多样性带来的虚假不确定性，真实反映模型认知层面的不确定程度
核心事实
时间轴 (近 90 天)
语义熵的计算开销主要来自多次前向推理采样以及NLI判断，对算力受限的边缘场景是不可忽视的成本
语义熵成功恢复了一个可用的置信度信号，弥补了token级熵在SLM上的盲区
语义熵（Semantic Entropy）最初由Kuhn等人于2023年在NeurIPS提出
将语义熵判断为不确定的查询路由给更大的专家模型处理，准确率提升最高可达+50个百分点
研究得出专家模型的质量比架构兼容性对路由收益更重要的结论
该开源幻觉检测器的检测速度比语义熵方法快约 90,000 倍
语义熵方法需要多次调用模型推理，延迟可能高达数百毫秒甚至数秒
语义熵方法不依赖特定模型的内部结构，通过输出层面的语义一致性推断不确定性，泛化能力较强
分层防御体系可结合快速筛查（轻量检测器实时初筛）与深度验证（语义熵等重量级方法二次确认）以平衡速度与准确性
语义熵方法在技术实现上通过多次采样获得候选回答、使用NLI模型判断语义等价性聚类、最后计算语义类别上的熵值
全部知识事实 (10)
语义熵方法在技术实现上通过多次采样获得候选回答、使用NLI模型判断语义等价性聚类、最后计算语义类别上的熵值
85%待验证分层防御体系可结合快速筛查（轻量检测器实时初筛）与深度验证（语义熵等重量级方法二次确认）以平衡速度与准确性
60%待验证语义熵的计算开销主要来自多次前向推理采样以及NLI判断，对算力受限的边缘场景是不可忽视的成本
50%待验证语义熵（Semantic Entropy）最初由Kuhn等人于2023年在NeurIPS提出
50%待验证将语义熵判断为不确定的查询路由给更大的专家模型处理，准确率提升最高可达+50个百分点
50%待验证研究得出专家模型的质量比架构兼容性对路由收益更重要的结论
50%待验证语义熵成功恢复了一个可用的置信度信号，弥补了token级熵在SLM上的盲区
50%待验证语义熵方法不依赖特定模型的内部结构，通过输出层面的语义一致性推断不确定性，泛化能力较强
50%待验证语义熵方法需要多次调用模型推理，延迟可能高达数百毫秒甚至数秒
50%待验证该开源幻觉检测器的检测速度比语义熵方法快约 90,000 倍
50%