待验证50% 置信事实精确时间
名为 Nori 的 LLM 推理项目宣称实现了每秒超过 100 万 token 的处理吞吐（1M tok/s）
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/24
首次发现
有效期至：2026/12/23
来源
涉及实体
相关事实
待验证该配置下35B模型实测单人最高速度约80 Tokens/秒，并发可达500 Tokens/秒以上66% 相似待验证目前主流的云端大模型推理速度通常在几十到一两百 tokens/秒之间66% 相似已验证百万Token级别的单次推理需要数十至数百GB的高端GPU显存（A100/H100级别）65% 相似待验证llama.cpp通过纯CPU推理和4-bit GGUF量化格式，使7B参数模型在无GPU的普通服务器上达到每秒20-40 tokens的生成速度64% 相似待验证Ornith 9B 模型权重约占 6.2GB，在12GB内存预算内可支持约 186,000 tokens 的上下文64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/947007API
curl https://kongchang.com/api/v1/knowledge/claims/947007MCP
get_claim(id=947007)