待验证50% 置信事件精确时间

OrcaRouter在单张H200上运行了32个并发评估请求，配置包括FP8 KV cache、MTP以及--max-num-seqs 96

1

来源数

50%

置信度

短期 (~14 天)

时效性

2026/9/7

首次发现

有效期至：2026/9/21

来源

模型卡通过负载测试≠服务SLO达标：LLM部署的两道验收关卡

涉及实体

OrcaRoutercompany NVIDIA H200product

相关事实

待验证Ornith家族中9B、35B和397B为开放权重模型，31B暂未开放下载60% 相似待验证单卡RTX 4090即可运行GPT-OSS 20B，单卡A100即可运行GPT-OSS 120B60% 相似待验证普通版的27B模型有一个免费托管版本可用，托管在OrcaRouter上59% 相似待验证本地运行70B模型至少需要配备48GB显存的专业GPU，如NVIDIA A6000或双卡RTX 409058% 相似待验证单台DGX H100系统可提供高达32 petaFLOPS的AI算力58% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/869809

API

curl https://kongchang.com/api/v1/knowledge/claims/869809

MCP

get_claim(id=869809)