基准
InferenceMAX
Semi Analysis开发的AI推理性能基准测试框架,用于评估芯片在真实负载下的Token吞吐量、延迟等推理性能指标
时间轴 (近 90 天)
9月24日
Jalapeño 的测试使用 Semi Analysis 的 InferenceMAX 框架,数据由 OpenAI 提供,未跑完整套件,也未公开原始日志,测试场景限制在 8K 输入、1K 输出,未开推测解码
待验证50%
Semi Analysis开发的AI推理性能基准测试框架,用于评估芯片在真实负载下的Token吞吐量、延迟等推理性能指标
Jalapeño 的测试使用 Semi Analysis 的 InferenceMAX 框架,数据由 OpenAI 提供,未跑完整套件,也未公开原始日志,测试场景限制在 8K 输入、1K 输出,未开推测解码