待验证50% 置信事实精确时间
v5.19.0 引入了 token 分发实现，通过新的 ep_dispatch_experts 规划规则选择，并成为 Qwen3 MoE 和 Mellum 的默认方式，移除了 EP size 必须等于 TP size 的限制
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/6
首次发现
有效期至：2027/1/4
来源
涉及实体
相关事实
待验证Qwen3系列中有一个总参数量2.4T、激活参数约95B的MoE模型，模型文件下载需约5TB存储空间61% 相似待验证LM Studio默认上下文只有8000 token，可能导致Q4 QWEN 3思考时耗尽token58% 相似待验证代号 iQuest Q1 的模型开源，采用 MoE 架构，总参数 320B，每 Token 激活 15B，上下文长度达 512K58% 相似待验证运行Qwen3-Next-Flash（Autoround W4A16量化）时，预填充速度约1.3k tokens/s，生成速度达70 tokens/s（代码）/60 tokens/s（散文），支持128k+长上下文57% 相似已验证以LLaMA-2 70B模型为例，2048 token的序列需约4GB显存仅用于KV缓存57% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/981737API
curl https://kongchang.com/api/v1/knowledge/claims/981737MCP
get_claim(id=981737)