待验证50% 置信基准精确时间

在约4K输入时TTFT为23.6秒、解码46.6 tok/s；8K时47秒、41.4 tok/s；16K时1分30秒、30.8 tok/s；30K时3分15秒、31.9 tok/s

1

来源数

50%

置信度

长期有效

时效性

2026/10/2

首次发现

来源

M4 Max实测Qwen 27B：本地模型的tokens/s背后真相

涉及实体

Qwen 27Bmodel Apple M4 Maxproduct

相关事实

已验证在 T4 显卡上，Laya 单个问题耗时 33 毫秒，批量处理可压到 7 毫秒79% 相似待验证传统ASR→LLM→TTS三段式串联管线的延迟累积通常在800毫秒至2秒之间78% 相似待验证在16G卡上，60秒音频用512帧分块只需101秒，1024帧需231秒，不分块反而需285秒75% 相似待验证一个需要20次LLM调用、每次生成200个Token的Agent任务，在30 TPS下需要约133秒完成，在300 TPS下仅需13秒75% 相似待验证每条DNS记录都附带TTL值，指定递归解析器可缓存该记录的秒数，常见设置从300秒到86400秒不等75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/968806

API

curl https://kongchang.com/api/v1/knowledge/claims/968806

MCP

get_claim(id=968806)