待验证50% 置信事实精确时间

TokenSpeed 需要 NVIDIA GPU 主机（nightly wheel 需要 CUDA 13）或搭载 ROCm 7.2 的 AMD 主机，Python 3.11 到 3.13。

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/15

首次发现

有效期至：2027/1/13

来源

TokenSpeed：专为编程智能体打造的LLM推理引擎

涉及实体

TokenSpeedproduct CUDAconcept ROCmconcept

相关事实

待验证配备NVIDIA GPU并使用CUDA加速，7B模型可以达到50-100+ token/s的推理速度72% 相似待验证NVIDIA CUDA 的 GPU 架构从 Volta、Ampere 演进到 Hopper、Blackwell71% 相似已验证NVIDIA A100 拥有 6912 个 CUDA 核心70% 相似待验证llama.cpp在NVIDIA GPU上使用CUDA，在AMD GPU上使用ROCm，在苹果芯片上使用Metal70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1041081

API

curl https://kongchang.com/api/v1/knowledge/claims/1041081

MCP

get_claim(id=1041081)