概念有效算力
Goodput
衡量集群在单位时间内真正用于有效计算的比例,等于峰值算力乘以利用率再扣除降频、空闲、重试与通信等待等损耗。
时间轴 (近 90 天)
10月19日
Goodput指标衡量单位时间内满足SLO(如TTFT与ITL)的有效请求量或有效token量,能反映生产环境真正付费购买的经济效率
待验证50%
衡量集群在单位时间内真正用于有效计算的比例,等于峰值算力乘以利用率再扣除降频、空闲、重试与通信等待等损耗。
Goodput指标衡量单位时间内满足SLO(如TTFT与ITL)的有效请求量或有效token量,能反映生产环境真正付费购买的经济效率