待验证50% 置信注意事项精确时间

AirLLM 处理长上下文时需在系统内存中维护完整的 KV Cache，通常建议配备 64GB 以上的 RAM

1

来源数

50%

置信度

长期有效

时效性

2026/7/19

首次发现

来源

AirLLM：4GB显卡跑70B大模型的核心原理与适用场景

相关事实

待验证支持128K上下文的70B参数模型的KV Cache满负荷时可能需要数百GB显存，超过单张H100的80GB显存容量68% 相似待验证模型权重不能把显存占满，必须为 KV 缓存和推理过程预留空间，128K 上下文所需的 KV 缓存可能高达数 GB 甚至超过模型权重本身67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/563156

API

curl https://kongchang.com/api/v1/knowledge/claims/563156

MCP

get_claim(id=563156)