待验证50% 置信权衡取舍精确时间

若 BF16 的补充调优逻辑与通用路径共享状态或全局缓存，可能在混合精度场景或并发请求中产生难以复现的性能异常

1

来源数

50%

置信度

长期有效

时效性

2026/9/17

首次发现

来源

vLLM v0.30.0rc1发布：修复FlashInfer BF16自动调优隔离问题

涉及实体

BF16technology FlashInfertechnology

相关事实

待验证过度思考错误（overthinking errors）在 BF16 全精度的同尺寸模型中也普遍存在，而非仅是低精度量化（PTQ）的副作用71% 相似待验证切换模型、切换推理强度、开关快速推理模式、压缩对话、缓存过期后恢复等操作都会导致提示缓存失效66% 相似待验证异构冗余（多活）的核心价值在于不同接入路径的故障模式通常非相关，比同质多副本更能提升系统整体可用性65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/929270

API

curl https://kongchang.com/api/v1/knowledge/claims/929270

MCP

get_claim(id=929270)