待验证50% 置信基准精确时间
Qwen 3.6 35B采用MoE架构，将所有专家权重放在CPU上、GPU仅保留少量权重时，可维持约40 tokens/秒的生成速度。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/29
首次发现
有效期至：2027/1/27
来源
单卡12G跑本地实时语音AI：35B模型+语音对话全流程
bilibili枫叶边城2026/10/29
涉及实体
相关事实
待验证Qwen3.5-4B可以在单张消费级GPU（如RTX 4090）上高效运行，量化后甚至可以部署在边缘设备上70% 相似待验证在类似性能的桌面CPU上，7B Q4量化模型的生成速度大约在每秒几个token到十几个token之间。70% 相似待验证在双Spark TP2配置下，Qwen 3.8 Flash推理速度为55-70 token/s，支持4个全并发智能体同时运行69% 相似待验证Qwen3.8-Flash-Next的N-Gram Embedding参数约占51B，可卸载（offload）到CPU内存以降低GPU显存需求68% 相似待验证一个名为Qwenputer的项目将32位RISC-V CPU的行为嵌入到Qwen3.5-4B模型的权重中，使模型能执行RISC-V指令而非调用外部模拟器。68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1112078API
curl https://kongchang.com/api/v1/knowledge/claims/1112078MCP
get_claim(id=1112078)