InferenceX
Semi-Analysis推出的AI推理基准测试套件，以延迟-吞吐权衡曲线为核心指标，模拟真实业务场景，衡量系统在服务质量约束下的实际推理能效
时间轴 (近 90 天)
在InferenceX公共基准测试中，Jalapeño峰值吞吐下每瓦任务量达到NVIDIA对比系统的1.5至1.9倍，端到端延迟降低1.7至3.6倍
OpenAI使用名为InferenceX的开源基准测试工具来测试Jalapeño的性能
OpenAI使用Semi-Analysis的公开基准InferenceX，在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2 1T三个开放模型上测试Jalapeño
InferenceX的核心指标是延迟-吞吐权衡曲线，在设定用户可接受最大响应延迟的约束下衡量系统处理请求数和能耗
OpenAI公布的Jalapeño基准仅标注为8K 1K（8000输入token、1000输出token），来自开源测试套件InferenceX，未公开AgentX等智能体场景测试数据
全部知识事实 (5)
在InferenceX公共基准测试中，Jalapeño峰值吞吐下每瓦任务量达到NVIDIA对比系统的1.5至1.9倍，端到端延迟降低1.7至3.6倍
50%待验证OpenAI使用名为InferenceX的开源基准测试工具来测试Jalapeño的性能
50%待验证OpenAI使用Semi-Analysis的公开基准InferenceX，在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2 1T三个开放模型上测试Jalapeño
50%待验证InferenceX的核心指标是延迟-吞吐权衡曲线，在设定用户可接受最大响应延迟的约束下衡量系统处理请求数和能耗
50%待验证OpenAI公布的Jalapeño基准仅标注为8K 1K（8000输入token、1000输出token），来自开源测试套件InferenceX，未公开AgentX等智能体场景测试数据
50%