待验证50% 置信事实精确时间

在第一个产生分歧的token处，目标模型对token 476和323的两个领先得分在串行与批处理下发生顺序互换，翻转了贪婪解码的选择

1

来源数

50%

置信度

长期有效

时效性

2026/10/11

首次发现

来源

连续批处理为何拖慢了LLM推理引擎？一次Metal内核排查实录

涉及实体

mini-vllm-rsproduct

相关事实

待验证重排序是在初步检索后对候选结果进行二次精排的步骤65% 相似待验证同一个模型配上不同的 harness，在真实编码任务上的成功率可能差别巨大64% 相似待验证该方案存在两个主要瓶颈：数字前端编码器仍消耗可观能量，以及多路复用会带来信号间串扰影响分类精度64% 相似待验证不同任务类型的涌现阈值存在巨大差异，某些推理能力在模型规模跨越临界点时突然涌现，而标准代码补全呈现平滑饱和曲线63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1000275

API

curl https://kongchang.com/api/v1/knowledge/claims/1000275

MCP

get_claim(id=1000275)