待验证50% 置信基准精确时间

Janas 支持投机解码：小型草稿模型猜出接下来几个 token，大模型一次验证。在 Qwen3-Next-80B 上，这让写入速度从 24 提升到 37 tok/s，且文本内容完全一致。

1

来源数

50%

置信度

短期 (~14 天)

时效性

2026/10/13

首次发现

有效期至：2026/10/27

来源

Janas 引擎让 32GB 笔记本跑 48GB MoE 模型，37 tok/s 超越 llama.cpp

涉及实体

Janasproduct Qwen3-Next-80Bmodel 投机解码concept

相关事实

待验证在 16 并发、256 token 输出测试中，Gemma 4 E2B 输出速度为 1887 tokens/秒，比它快的模型包括 Qwen2.5-0.5B（4176，2.21x）、Qwen3-0.6B（3210，1.70x）、Qwen2.5-1.5B（2780，1.47x）和 Qwen3-1.7B（2049，1.09x）。71% 相似待验证使用Qwen2.5 0.5B作为草稿模型每次提议4个token的推测解码测试中，串行处理整体草稿接受率为32.9%，并发处理为37.1%69% 相似待验证在32K prompt输入下，Q2量化的读取速度可从572 token/s提升到1290 token/s，Q3可从383提升到1208 token/s66% 相似待验证Qwen3 27B在256K长上下文记忆检索测试（大海捞针）中取得100%通过率，15次运行全部准确66% 相似待验证Qwen2.5-Max-0902最大输出为13万Token，推理模式下上限可达26万Token63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1017036

API

curl https://kongchang.com/api/v1/knowledge/claims/1017036

MCP

get_claim(id=1017036)