待验证70% 置信基准精确时间

Groq的LPU主打超低延迟推理，已实现超过500 Token/秒的输出速度

2

来源数

70%

置信度

中期 (~90 天)

时效性

2026/8/22

首次发现

有效期至：2026/11/20

来源

GPT-5.6 Ultra Fast模式解析：推理提速14倍背后的技术与落地

相关事实

待验证Ultrafast 能够以每秒最高 750 tokens 的速度生成内容70% 相似待验证开放权重模型在 Groq LPU 与 Cerebras 晶圆级集群上能达到420至2100 tokens/秒的吞吐。68% 相似待验证该配置下35B模型实测单人最高速度约80 Tokens/秒，并发可达500 Tokens/秒以上65% 相似待验证SGLang 使用官方 NVFP4 权重配合 D-Spark 投机解码在 Blackwell GPU 上跑出平均约 173 tokens/秒，短任务逼近 200，同时加载 262k 上下文窗口65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/785685

API

curl https://kongchang.com/api/v1/knowledge/claims/785685

MCP

get_claim(id=785685)