待验证50% 置信基准精确时间
在4台DGX Spark上以VLLM的Tensor Parallel 4运行，实测解码速度为代码和HTML约70 token/秒、JSON约45、散文和规划任务约30，而DeepSeek自家API可超过300 token/秒
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/15
首次发现
有效期至：2026/12/14
来源
涉及实体
相关事实
待验证使用DeepSeek Flash的API可达到约300 tokens/秒的速度69% 相似已验证DeepSeek V4 Flash在OpenModel平台的速率限制为每分钟10次请求（10 RPM）和每分钟100K tokens（100K TPM）68% 相似待验证使用Gemma 4 2B版本本地运行Codex时，处理速度大约每秒30到40个Token67% 相似待验证Gemma量化模型在高性能笔记本电脑上Token生成速度可达每秒20-50个，纯CPU推理约5-15 tokens/秒，INT4量化下NVIDIA RTX 4060/4070可将推理速度提升3-5倍66% 相似待验证在配备96GB显存的M2 Max上以1-bit精度运行时，简单任务生成速度稳定在约28-30 tokens/秒66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/923769API
curl https://kongchang.com/api/v1/knowledge/claims/923769MCP
get_claim(id=923769)