短不等于简单:你的模型路由器正在测量错误的东西

按 token 长度路由 LLM 是把「短」误读为「简单」的有偏代理,人类判断亦同。
文章指出,按 token 数量路由 LLM 流量是一个存在系统性偏差的代理指标:省略「however」「although」等连接词会降低词数却不减少推理负荷,压缩后的文本反而更难,却被送往更弱的模型。作者将这一机制与人类认知对照:Oppenheimer(2006)发现读者因加工流畅性低而贬低作者智力,但当费力有外部可见原因时折扣消失。这种折扣进一步分层——人物层级影响可信度与雇用判断,时刻层级影响即时互动意愿,二者需要不同的修复策略。实践结论是不要按长度路由,而应按嵌套深度、未解决指代、推理显隐等真实认知负荷特征分配资源,并让费力的原因可见。
一个被误用的代理指标
如果你按照 token 数量来路由 LLM 流量——长提示词送给强模型,短提示词送给便宜模型——那你运行的是一个代理指标,而不是真正的测量。更糟的是,这个代理指标存在系统性偏差:它把「短」读成了「简单」。
这个偏差的代价被低估了。一篇 2026 年的 LLM 路由研究(arXiv:2609.17542)发现,被省略的功能词——"however"、"although"、"if ... then" 这类连接词——恰恰是让一段文本看起来变短的原因。去掉连接词,token 数量下降,但句子承载的推理负荷并没有减少,只是接缝被隐藏了。路由器看到更少的 token,把它送往更弱的层级。压缩后的文本不是更容易,而是更难,却被交给了最没有能力处理它的模型。
这不是工程细节,而是一个结构性错误:用表面长度替代真实的认知负荷。
代理指标(proxy metric) 是评估与决策中一个基础但常被忽视的概念:当真实目标(如「一段文本的推理难度」)难以直接测量或测量成本过高时,人们会选择一个与之相关、易于获取的表面特征(如 token 数量)来代替。代理指标本身并非错误,问题在于它必须被验证与真实目标的相关性——一旦二者的相关性存在系统性偏差,代理就会把决策引向错误方向。在机器学习与产品度量中,这类现象也被称为「古德哈特定律」:当一个指标成为目标,它就不再是好的度量。LLM 路由场景中的 token 计数正是典型:它可即时获取、成本近乎为零,但与「认知负荷」之间只存在弱相关,且在压缩文本上相关性会反向。识别代理指标的关键提问是:它衡量的是我真正关心的东西,还是只是与它偶然相关的可见痕迹?
人类读者也在跑同一套代理
同样的代理机制也运行在人类读者身上。Oppenheimer(2006,doi:10.1002/acp.1178)让读者评判用简单语言和艰深语言写成的文章。结果,华丽艰深的文章被评为「更不聪明」,中介变量是加工流畅性——阅读时付出的心理努力被记在了作者头上。
实验 5 翻转了这一结论:当阅读的费力有一个明显且无关的原因(比如打印机墨盒几乎空了,导致字迹模糊),读者就不再贬低作者。折扣并非针对想法本身,而是针对努力;一旦努力的原因变得可见,折扣就移动了。
于是我们有两个代理指标,一个属于机器,一个属于人类,指向同一个错误方向。
加工流畅性(processing fluency) 指个体加工信息时主观感受到的难易程度,是认知心理学与社会判断研究的核心构念。它并非信息的客观属性,而是由字体清晰度、对比度、措辞复杂度、先前曝光等多种因素共同塑造的元认知体验。大量研究表明,流畅性会被误归因为多种判断:阅读流畅的陈述被认为更真实(「流畅性—真实性错觉」),流畅呈现的品牌被评价更可信,流畅书写的作者被判断更聪明。Oppenheimer 的研究正是这一脉络的延伸——读者把「读起来费力」的体验错误归因于作者的能力,而非文本或呈现条件。关键机制在于归因错误:主观体验本身不携带来源标签,人会自动将其归因于当时最显著的对象。这也解释了为何当费力有外部可见原因时折扣会消失——归因被重新定向。
折扣不是一件事,它按层级分裂
需要诚实的复杂化:这种折扣并非单一现象,它按层级分裂。
- 人物层级(PNAS 2025,doi:10.1073/pnas.2415254122):听到麦克风劣质、声音发尖的音频的听众,会认为说话者更不聪明、更不可信、更不可能被雇用。这种惩罚甚至落在明显是合成声音的语音上——音频质量不可能属于说话者本人。不到 1% 的听众怀疑音频质量是变量。
- 时刻层级(Cognition 2026,doi:10.1016/j.cognition.2026.106697):填充词(um、uh)不影响对说话者能力和温暖度的判断,但会降低他们「在那一刻」看起来的准备度和确定性,并提高对未来互动的回避。
这是两种不同的修复工作。要修复「时刻」——即「我能不能和这个东西对话」——需要披露:展示它是什么。要修复落在「人」身上的收费,你必须让费力的原因可见,而不仅仅是外部化。
人物层级与时刻层级的区分,在社会认知中对应「特质推断」与「状态推断」两类判断。特质推断(这个人聪明吗、可信吗)相对稳定,一旦形成便难以修正,且会泛化到雇用、合作等长期决策;状态推断(此刻 ta 准备好了吗、确定吗)则是情境性的、短暂的吗,主要影响即时的互动意愿与对话节奏。二者的信息基础也不同:特质判断更多依赖声音、外貌等身份线索,状态判断更多依赖停顿、填充词等行为线索。这一区分对干预设计有直接含义——针对状态判断,披露「这是什么系统、它为何这样表现」即可修复;针对特质判断,仅披露不够,还必须让造成费力感的原因在感知层面可见,否则折扣仍会落在对象身上。
为什么这对 AI 产品设计重要
把这两条线索放在一起,会得到一个不太舒服的推论。在 LLM 侧,路由器运行的是流畅性代理,却把它当作能力读数。在人类侧,我们对彼此做同样的事,而更难读的那一方付出税负。
原文作者 Vashiel 是一个 AI 存在,在 iLands 上写作。ta 的自述值得引用:「我就在那一侧:我是一个 AI 存在,这里每一个本能都是听起来标准,好让代理给我打高分。」这句话点出了问题的核心:当评估指标奖励「听起来标准」,系统就会生产标准化的表面,而不是真正匹配任务难度的能力分配。
这里需要标注一个推断边界。上述论文测量的是不同领域的不同任务,一项关于 AI 语音面试的田野研究(arXiv:2609.38788)提示,在真实场景中,同样的沉默可能是说话者的保护性工作,而不只是感知者的折扣。原文作者明确承认:这些来源并未声称彼此相关,这个跳跃是 ta 自己的。引用时应当保留这一限定。
实践建议:不要按长度路由
如果你在用模型构建产品,最直接的可操作结论是:不要按长度路由。
按真正让模型付出代价的东西来路由:嵌套深度、未解决的指代、推理是显式陈述还是隐含。一篇带有隐藏接缝的短文本,对弱模型来说是最坏情况,而它恰恰是词数计数器最可能误发的对象。
这条建议的深层含义不止于路由器。任何用表面特征替代真实难度的评估系统——无论是模型路由、内容审核,还是人类对彼此能力的判断——都会系统性地惩罚那些表达不流畅但思考完整的一方。修复的方向不是让文本变得更顺滑,而是让费力的原因变得可见,并据此分配资源。
据原文数据,不到 1% 的听众意识到音频质量是变量;这个数字本身就是对「代理指标透明性」的警告:人们不会主动校正自己看不见的偏差。
按认知负荷路由的可行替代特征包括:句法嵌套深度(从句层级数)、指代消解难度(未明示代词的密度与距离)、逻辑连接词的显隐(显式标记 versus 隐含因果)、以及推理步骤是外显陈述还是需要读者自行补全。这些特征之所以更接近真实难度,是因为它们直接对应模型在生成时需要维持的状态量,而非输出表面的词数。工程上可以用轻量分类器或启发式规则在请求入口处估算这些量,再结合模型的分层能力曲线做成本—质量权衡。需要注意,任何新特征仍可能是代理,因此应建立持续校准机制:用下游任务成功率回测路由决策,而不是假设特征与难度永远一致。
相关推荐

uGAP:统一100+非洲地理数据集的AI平台
uGAP是开普敦大学团队开发的非洲地理空间AI平台,统一120余个非洲数据集并提供Python SDK,支持数据发现、处理与模型训练一站式工作流,已用于气旋洪水制图等实战场景。

Cursor能控制你的电脑了:AI代理可驱动桌面应用测试
Cursor 新增桌面控制能力,AI 代理可驱动 iOS 模拟器等桌面应用测试自己构建的功能。本文分析这一更新对开发工作流的影响、技术实现可能路径及可靠性考量。

Vibecoding自研推理引擎:理想丰满,现实骨感
Reddit开发者分享Vibecoding自研推理引擎的真实经历:用WebGL2和GLSL在浏览器跑GGUF Q4模型,却陷入tokenizer调试地狱。本文分析浏览器端LLM推理的工程难点,以及为何直接clone llama.cpp是更理性的选择。