待验证50% 置信事实精确时间
Nemotron-3.5-Super 每个 token 需要读取约 2.7GB 的专家权重(22 个专家 × 40 层 × 3.10MB)。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
8GB显卡跑120B Nemotron:跳过零值,找真瓶颈
rss2026/10/17
涉及实体
相关事实
待验证Nemotron 3 说话人分离模型参数量约1亿,仅需4GB显存即可运行69% 相似待验证30B级的Nemotron系列MoE模型在Mac上每秒至少150个Token,内存占用约18GB63% 相似待验证依靠 12B 激活参数的紧凑 MoE 架构与 TensorRT-LLM 中优化的 NVFP4 kernel,Nemotron 在单台 Blackwell B200 节点上生成 185 tokens/秒,比稠密对手快至 3.2 倍。63% 相似待验证Anatomy 的 SKILL.md 大小为 31,600 字节,外加约 300KB 的九份参考指南,运行时按需加载;注入的提示词约 7,700 输入 token,CPU 上读取需 45 到 70 秒,生成速度约每秒 4 到 5.5 token。62% 相似待验证对于 2.4 亿条域名,Succinct Trie 的内存占用可压缩到每个字符仅需 2–4 bit,整体可控制在 1–2 GB 以内61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1053036API
curl https://kongchang.com/api/v1/knowledge/claims/1053036MCP
get_claim(id=1053036)