待验证60% 置信事实精确时间

70B量级模型的全量微调至少需要8张A100 80G显卡

2

来源数

60%

置信度

中期 (~90 天)

时效性

2026/7/11

首次发现

有效期至：2026/10/9

来源

转行大模型开发：企业真正需要的四层核心能力拆解

bilibili老胡不秃头2026/7/9

相关事实

待验证基于 QLoRA 在单张 A100 80GB 显卡上微调 70B 级别的模型已成为可能80% 相似待验证单卡A100（80GB显存）可运行7B-13B级别模型，4卡A100（320GB显存）可运行70B级别模型76% 相似待验证单张A100 GPU的显存容量上限为80GB72% 相似待验证在RTX 3090单卡上即可运行70B量化模型71% 相似已验证以70B参数模型、FP16精度、32层注意力头为例，单条200K长度请求的KV Cache约需80-120GB显存，远超单张A100 GPU的80GB显存上限69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/478405

API

curl https://kongchang.com/api/v1/knowledge/claims/478405

MCP

get_claim(id=478405)