待验证50% 置信基准精确时间
在SemiAnalysis的AgentX基准测试中，8卡AMD MI355X在50 tok/s/user的交互延迟下，于Kimi K3模型服务中实现了每GPU 7,567 tok/s的吞吐量。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/17
首次发现
有效期至：2026/10/31
来源
涉及实体
相关事实
待验证在同一基准测试条件下，8卡AMD MI355X的每GPU吞吐量比HGX B300的6,083 tok/s/GPU高出24.4%。73% 相似待验证在 NVIDIA B200 上运行 Kimi K2.5，使用真实编程智能体轨迹（SWE-smith，EvalScope 评估），TokenSpeed 在整个延迟/吞吐量曲线上优于 TensorRT-LLM；batch size 1 时约快 9%，在每用户约 100 token/秒时吞吐量高约 11%。73% 相似待验证实测中模型加载仅耗时几秒，GPU占用从23GB降至约17GB，首次测试提示词处理耗时225ms，生成速度稳定在33.5 tok/s，总输出1500 token。69% 相似待验证用户在8台GB10上以FP8运行397B，速度比INT4快20%，并将MiMo 2.5 Pro和Kimi 2.6的首个方案发布到NVIDIA论坛67% 相似待验证Jev报告的服务器时间约88毫秒一次分类，而MacBook M4 Pro的GPU本地运行GLiNER 2.5 small速度快约8倍67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1050929API
curl https://kongchang.com/api/v1/knowledge/claims/1050929MCP
get_claim(id=1050929)