待验证50% 置信事实精确时间

在10Gbps网络下，下载140GB的70B模型权重需要约2分钟

1

来源数

50%

置信度

长期有效

时效性

2026/8/14

首次发现

来源

Aquifer开源：为突发GPU推理负载削峰填谷的流量平滑方案

相关事实

待验证70B参数模型权重从网络存储传输到GPU显存需要数分钟时间74% 相似待验证若量化后模型权重为150GB，以273GB/s带宽读取一遍权重约需0.55秒，理论上单token生成速度约为1.8 token/s（未计入计算延迟和跨机通信开销）74% 相似待验证量化格式可将70B参数模型的运行内存从140GB压缩至40GB以内72% 相似待验证支持128K上下文的70B参数模型的KV Cache满负荷时可能需要数百GB显存，超过单张H100的80GB显存容量71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/744914

API

curl https://kongchang.com/api/v1/knowledge/claims/744914

MCP

get_claim(id=744914)