llmlatency.dev

独立监测项目 llmlatency.dev 在 2026 年 9 月 18 日至 10 月 17 日的 30 天窗口内，对 46 家 AI 推理 API 进行了持续探测，数据采集自德国、美国中部、东京和圣保罗四个区域，每 5 分钟发起一次请求，总计 1,580,667 次。

归因宕机的判定规则是：只有当同一供应商同时从 2 个以上探测区域失败，且同期没有其他供应商出现类似故障时，才将该次失败归因于该供应商自身。

网络层可用性与推理成功并不等同；一个主机有应答但模型队列卡住的情况，在该监测口径下仍计为“在线”。