待验证50% 置信基准精确时间
英伟达工程师通过为VLLM上游编写全新的专用融合解码内核，在2800亿参数的Kimi K3模型上实现每用户每秒423 Token的吞吐，同等硬件提速达1.68倍。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/18
首次发现
有效期至：2027/1/16
来源
OpenCode遭蒸馏攻击与DeepSeek开源Flash 1017领衔AI速递
bilibiliAl早知道2026/10/18
涉及实体
相关事实
待验证索尼XM4采用的HD降噪处理器QN1每秒处理超过700次运算69% 相似待验证在类似性能的桌面CPU上，7B Q4量化模型的生成速度大约在每秒几个token到十几个token之间。68% 相似待验证VKORE在同一NPU硬件上使单用户推理响应速度提升3.8倍。67% 相似待验证Meta 为推测解码提供了两个专用草稿模型：DFlash V2 为 SGLang 设计，在 AMD MI355X 硬件上据称实现 3.7 倍吞吐提升，每步平均接受 6.4 个草稿 token；DSpark 为 vLLM 设计，每次传递最多提议七个 token。67% 相似已验证M4芯片的Neural Engine每秒可执行38万亿次运算（38 TOPS）67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1059776API
curl https://kongchang.com/api/v1/knowledge/claims/1059776MCP
get_claim(id=1059776)