待验证50% 置信观点精确时间
27.18 MiB的缓存大小使得Mamba2-8B有可能运行在高端移动设备甚至嵌入式系统上。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/16
首次发现
有效期至：2027/1/14
来源
Mamba2-8B压缩研究：27MB缓存与3.14GB模型
redditr/deeplearning2026/10/16
涉及实体
相关事实
待验证通过去重Q/K/V权重节省488 MiB显存，将文本嵌入表保留在CPU节省594 MiB，使得Gemma 4 E4B与Qwen3-TTS 1.7B两个模型能同时加载，显卡显示8,188 MiB中占用7,448 MiB。71% 相似待验证使用配备5060Ti显卡、16GB显存、32GB DDR4内存的中端机器可以完整运行结合Qwen3与MiniMax H3的ComfyUI工作流集合67% 相似待验证用户在8台GB10上以FP8运行397B，速度比INT4快20%，并将MiMo 2.5 Pro和Kimi 2.6的首个方案发布到NVIDIA论坛66% 相似待验证Qwen3 27B 的 4bit 量化版权重仅约 16.1G，可在 32G 内存的 MacBook Pro/Mac Studio 或约 17G 显存的消费级显卡上运行65% 相似待验证本次装机采用明轩AI Micro Station工作站准系统，配备英特尔Ultra 9 275HX（24核）、96GB内存、两块4TB M.2存储和两张ARC Pro B7065% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1048603API
curl https://kongchang.com/api/v1/knowledge/claims/1048603MCP
get_claim(id=1048603)