待验证50% 置信基准精确时间

Janas 在 32GB 内存笔记本上运行 48.4GB 的 Qwen3-Next-80B，达到 37 tok/s；同一机器同一模型上 llama.cpp 只有 2.8 tok/s。

1

来源数

50%

置信度

短期 (~14 天)

时效性

2026/10/13

首次发现

有效期至：2026/10/27

来源

Janas 引擎让 32GB 笔记本跑 48GB MoE 模型，37 tok/s 超越 llama.cpp

涉及实体

Janasproduct llama.cppproduct Qwen3-Next-80Bmodel

相关事实

待验证约25GB的Q3模型完全在RTX 4090显存（带宽约1TB/s）运行理论上每秒约40个token，而在DDR5内存（约80GB/s）中运行降至每秒1-3个token73% 相似待验证在 Qwen3 27B 的 llama.cpp 环境下，R9700 跑出 27.1 tokens/s（达带宽上限约65%），B70 跑出 21.4 tokens/s（约50%出头）71% 相似待验证Cerebras WSE-3片上内存高达44GB SRAM，带宽达到21 PB/s，比GPU的HBM内存快约1000倍70% 相似待验证以约160GB的模型（如Qwen3.5-397B的UD-Q3_K_XL量化版本）为例，运行透镜需额外约20GB内存70% 相似待验证使用配备5060Ti显卡、16GB显存、32GB DDR4内存的中端机器可以完整运行结合Qwen3与MiniMax H3的ComfyUI工作流集合70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1017024

API

curl https://kongchang.com/api/v1/knowledge/claims/1017024

MCP

get_claim(id=1017024)