基准AgentX

SemiAnalysis AgentX

SemiAnalysis 推出的面向 AI 智能体负载的评测基准，关注长循环、多轮工具调用场景下的吞吐与成本表现，比通用对话基准更贴近实际智能体部署

时间轴 (近 90 天)

10月17日

vLLM 团队公布了 DeepSeek-V4.1-Flash-1017 在 SemiAnalysis AgentX 基准上的成绩：每美元 TCO 可跑 13 亿 token。

待验证50%

10月17日

该模型在 SemiAnalysis AgentX 基准上单卡吞吐达 83 万 token/s（含缓存、输入与输出），按每用户 100 token/s 的交互速度计算。

待验证50%

10月17日

基准数字值得参考，但不能直接外推到生产环境，建议在自己的流量模式下复测吞吐与成本。

待验证50%

10月17日

单一基准不能代表全部负载，训练、微调与超长上下文场景仍需独立验证。

待验证50%

vLLM 团队公布了 DeepSeek-V4.1-Flash-1017 在 SemiAnalysis AgentX 基准上的成绩：每美元 TCO 可跑 13 亿 token。

该模型在 SemiAnalysis AgentX 基准上单卡吞吐达 83 万 token/s（含缓存、输入与输出），按每用户 100 token/s 的交互速度计算。

基准数字值得参考，但不能直接外推到生产环境，建议在自己的流量模式下复测吞吐与成本。

单一基准不能代表全部负载，训练、微调与超长上下文场景仍需独立验证。