语义熵
一种用于衡量语言模型输出不确定性的方法，通过对多次采样答案进行语义聚类后再计算熵值，过滤词汇表达多样性带来的虚假不确定性，真实反映模型认知层面的不确定程度
Core Facts
Timeline (last 90 days)
语义熵的计算开销主要来自多次前向推理采样以及NLI判断，对算力受限的边缘场景是不可忽视的成本
语义熵成功恢复了一个可用的置信度信号，弥补了token级熵在SLM上的盲区
语义熵（Semantic Entropy）最初由Kuhn等人于2023年在NeurIPS提出
将语义熵判断为不确定的查询路由给更大的专家模型处理，准确率提升最高可达+50个百分点
研究得出专家模型的质量比架构兼容性对路由收益更重要的结论
该开源幻觉检测器的检测速度比语义熵方法快约 90,000 倍
语义熵方法需要多次调用模型推理，延迟可能高达数百毫秒甚至数秒
语义熵方法不依赖特定模型的内部结构，通过输出层面的语义一致性推断不确定性，泛化能力较强
分层防御体系可结合快速筛查（轻量检测器实时初筛）与深度验证（语义熵等重量级方法二次确认）以平衡速度与准确性
语义熵方法在技术实现上通过多次采样获得候选回答、使用NLI模型判断语义等价性聚类、最后计算语义类别上的熵值
All Facts (10)
语义熵方法在技术实现上通过多次采样获得候选回答、使用NLI模型判断语义等价性聚类、最后计算语义类别上的熵值
85%Unverified分层防御体系可结合快速筛查（轻量检测器实时初筛）与深度验证（语义熵等重量级方法二次确认）以平衡速度与准确性
60%Unverified语义熵的计算开销主要来自多次前向推理采样以及NLI判断，对算力受限的边缘场景是不可忽视的成本
50%Unverified语义熵（Semantic Entropy）最初由Kuhn等人于2023年在NeurIPS提出
50%Unverified将语义熵判断为不确定的查询路由给更大的专家模型处理，准确率提升最高可达+50个百分点
50%Unverified研究得出专家模型的质量比架构兼容性对路由收益更重要的结论
50%Unverified语义熵成功恢复了一个可用的置信度信号，弥补了token级熵在SLM上的盲区
50%Unverified语义熵方法不依赖特定模型的内部结构，通过输出层面的语义一致性推断不确定性，泛化能力较强
50%Unverified语义熵方法需要多次调用模型推理，延迟可能高达数百毫秒甚至数秒
50%Unverified该开源幻觉检测器的检测速度比语义熵方法快约 90,000 倍
50%