Unverified50% confidenceFactExact time
语义熵成功恢复了一个可用的置信度信号，弥补了token级熵在SLM上的盲区
1
Sources
50%
Confidence
Long-term
Relevance
9/21/2026
First Seen
Sources
Related Entities
Related Claims
Unverified熵方法在SLM中的价值主张并非节省计算，而是智能的算力分配79% similarUnverifiedtoken级熵可作为模型自信程度的廉价代理指标，只需读取推理过程中已有的logits即可计算，无需额外标注或训练打分网络72% similarVerified语义熵方法在技术实现上通过多次采样获得候选回答、使用NLI模型判断语义等价性聚类、最后计算语义类别上的熵值71% similarUnverified语义熵方法不依赖特定模型的内部结构，通过输出层面的语义一致性推断不确定性，泛化能力较强71% similarUnverified交叉熵恢复率通过将SAE重建激活替代原始激活输入到模型后续层比较交叉熵损失变化来计算，衡量SAE是否保留对下游计算重要的信息70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/938053API
curl https://kongchang.com/api/v1/knowledge/claims/938053MCP
get_claim(id=938053)