human-tps：用真实分词器测你打字有多少token/s

一个把玩笑玩到底的开源小工具

在本地跑大模型的圈子里，t/s（tokens per second，每秒生成的token数）几乎是所有人挂在嘴边的指标。为了在有限的硬件上多榨出几个token，玩家们折腾量化、调batch、换推理框架，乐此不疲。

最近一位 Reddit 用户干脆反其道而行——既然优化模型这么累，那就测测人类自己的token生成速度吧。他做了一个网页版工具 human-tps，让你像大模型一样，测量自己每秒能"输出"多少个token。

作者的原话很有代表性："终于找到一个我的硬件能全精度运行的模型了：我自己。"这句自嘲精准戳中了每个在消费级显卡上苦苦调参的本地LLM玩家。

reddit source

工具的核心其实并不复杂，但有个关键的认真之处：它用了真实的分词器（real tokenizers），而不是简单地按字符或单词计数。这意味着它测量的是你输入文本被切成token的速度，和LLM的计量口径保持一致，这样横向对比才有意义。

作者晒出自己的成绩大约是 2 t/s。听起来慢，但他顺手做了几个对比：

换句话说，人脑加双手的"推理速度"在纸面上还能吊打某些极端受限的硬件配置，但面对一张现代高端显卡跑小模型，就完全没有胜算了。这种荒诞又直观的对比，正是这个项目的乐趣所在。

本地LLM社区长期弥漫着一种"性能焦虑"：显存不够就上量化，量化掉精度就想办法补偿，t/s上不去就换推理引擎。等待模型吐字的过程，本身就是一种煎熬。

human-tps 把这套严肃的性能话语，套在了人类身上，制造出一种恰到好处的反差幽默。作者也直白地建议："如果你在等LLM回答时想找点事做，可以来试试。"——一个填补等待空隙的小玩具，顺便自嘲一下自己的"硬件规格"。

工具还支持分享成绩，带有一点社交传播的设计。作者半开玩笑地说："谁知道呢，说不定我能因此出名。"这种轻量、可分享、带梗的设计，正是这类小项目在技术社区容易走红的原因。

虽然整体是个玩笑，但"使用真实分词器"这个细节透露出作者并非随手糊弄。token的切分逻辑因模型而异，一段英文可能被切成远多于单词数的token，中文、代码、标点的处理更是各不相同。用真实分词器计量，才能让"人类 t/s"和"模型 t/s"处在可比较的语境里。

从这个角度看，human-tps 更像是一次面向本地LLM爱好者的"内部笑话可视化"：它不解决任何实际问题，却用社区熟悉的语言和指标，把一个人人都懂的痛点变成了能互动、能分享的小体验。

这类项目不会改变任何技术格局，但它恰恰反映了本地大模型社区的文化气质——既在硬件极限上斤斤计较，又能对自己的执着一笑置之。如果你也天天盯着 t/s 数字发愁，不妨去 human-tps 测测自己这个"全精度模型"到底跑多快。