待验证50% 置信观点精确时间
如果你按照 token 数量来路由 LLM 流量（长提示词送给强模型，短提示词送给便宜模型），你运行的是一个存在系统性偏差的代理指标，它把「短」误读为「简单」。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/18
首次发现
有效期至：2027/1/16
来源
涉及实体
相关事实
待验证LLM 推理是自回归逐 token 生成，瓶颈在于内存带宽与 KV Cache 管理，与扩散模型推理存在本质差异72% 相似待验证生产环境中的LLM流量分布不均，大量请求是简单确定性转换（如字段抽取、分类、格式化），只有小部分需要前沿模型处理。71% 相似待验证实践建议：不要按长度路由 LLM 流量，而应按嵌套深度、未解决的指代、推理是显式陈述还是隐含等真正让模型付出代价的特征来路由。71% 相似待验证LLM 在处理复杂任务时容易出现幻觉和逻辑漂移，这与其自回归逐 token 预测机制有关，早期错误会被后续内容放大67% 相似待验证知识蒸馏在 LLM 推理能力迁移中，通常指用强模型生成的带思维链回答作为监督数据训练弱模型，DeepSeek-R1 的蒸馏系列即属此类。67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1058214API
curl https://kongchang.com/api/v1/knowledge/claims/1058214MCP
get_claim(id=1058214)