待验证50% 置信事实精确时间
阿里千问3.8 Flash Next采用MoE架构,总共1250亿参数,每次出字只激活60亿参数,并把一张510亿参数的常用词组表放在普通内存里不占显存
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/22
首次发现
有效期至:2026/12/21
来源
涉及实体
相关事实
待验证MoE模型每次只读取激活的部分参数,速度比同量级稠密模型快得多,例如GLM 5.3 Flash每token仅读约30GB66% 相似待验证MoE与量化技术结合可使16GB内存的笔记本运行数百亿参数的MoE模型成为可能66% 相似待验证MoE模型采用稀疏激活,Qwen 3.5 122B总参数122B但每次推理仅激活约10B,需将全部参数加载进内存,对内存容量极度敏感64% 相似待验证对于一个典型的700亿参数模型,KV缓存每个词元大约占半兆(0.5MB)内存,生成10万个词元需要携带50GB的缓存63% 相似已验证百万Token级别的单次推理需要数十至数百GB的高端GPU显存(A100/H100级别)61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/941012API
curl https://kongchang.com/api/v1/knowledge/claims/941012MCP
get_claim(id=941012)