待验证50% 置信基准精确时间
在AWS EC2上以500并发用户、60秒运行的官方基准测试中,Bifrost达到424请求/秒,而LiteLLM为44.84请求/秒
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/12
首次发现
有效期至:2027/1/10
来源
涉及实体
相关事实
待验证AWS在2017年率先将EC2实例从按小时计费改为按秒计费,最低60秒71% 相似待验证7900XTX 在该测试中开到 256K 上下文时,一次生成耗时达到 743 秒67% 相似待验证长上下文归档实验中8条请求各输入约261000+个Token、各完成约1022个输出,共同解码窗口总吞吐每秒214.85个Token,每请求约26.86,但窗口只有约2.28秒且预填充串行或交错66% 相似待验证MiMo V2.6 Pro集群运行hello测试速度约15 tokens/秒,复杂任务降到约12 tokens/秒66% 相似待验证在一次8000 token运行中Ollama报告耗时125秒,而客户端实际等待725秒,差值为网关排队耗时且对服务端数字不可见65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1004563API
curl https://kongchang.com/api/v1/knowledge/claims/1004563MCP
get_claim(id=1004563)