待验证50% 置信基准精确时间
同一张 Google Cloud 单卡 T4 上,冷态 45°C 时 Gemma 4 E2B 解码速度为 115.3 tokens/s,热态 77°C 时降至 106.8 tokens/s,持续掉速约 7.4%。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
涉及实体
相关事实
待验证Ling 3.0 Tiny在M4 Pro的MacBook上推理速度约为每秒86-90 tokens,在8K上下文下峰值内存约8.34 GiB68% 相似待验证在短回答场景中,同一台M4 Mac仅改变电源模式,速度从28.5 tokens/s跳到109.6 tokens/s,差距3.84倍64% 相似待验证在6张RTX 5090上Colibri实测速度达9.0-9.2 token/s,在25GB开发机上从NVMe流式读取速度为0.05-0.1 token/s62% 相似待验证按高功耗加MLX或Ollama的公开数据,M4 Max上不同模型的解码速度大致阶梯为:Nemotron 3 Nano约160 tokens/s,Qwen 3.5 35B在107到130 tokens/s,Gemma 4 26B约75 tokens/s,DeepSeek V4 Flash约27 tokens/s,稠密27B约22 tokens/s62% 相似待验证将MTP草稿深度从默认4提升至6或8时,Qwen3.8-27B的输出速度分别降至53.9和52.4 tokens/秒,低于默认的55.1 tokens/秒。61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1047183API
curl https://kongchang.com/api/v1/knowledge/claims/1047183MCP
get_claim(id=1047183)