Unverified90% confidenceDecision RuleTime unknown
训练大模型（>13B参数）时显存容量优先级高于算力，单卡显存<40GB无法有效微调13B模型（即使用LoRA也需24GB+），全参数训练70B模型需至少8×80GB卡
1
Sources
90%
Confidence
Long-term
Relevance
-
First Seen
Sources
Related Entities
Related Claims
UnverifiedLLM推理/训练选卡看显存优先于算力：7B模型微调至少需24GB显存（RTX 4090/A5000），13B需A100 40GB，70B全参数训练需A100 80GB×4或H100集群86% similarUnverified做AI训练/推理或跑本地大模型时，显存容量是硬门槛，7B模型需要至少8G，13B以上需要16G-24G，此时应优先选大显存而非高游戏性能82% similarUnverifiedLoRA设计使可训练参数量压缩99%以上，7B参数模型在单张24GB显存的消费级GPU（如RTX 3090/4090）上即可完成微调78% similarUnverifiedAI大模型本地训练/微调场景：优先看显存总量与带宽，24G可微调7B级模型，48G支持13B级LoRA微调，70B级推理需多卡显存合计80G以上77% similarUnverified训练大语言模型/Stable Diffusion微调优先选显存≥24GB的卡（RTX 4090/A6000/A100 40GB），显存不足会直接OOM报错，无法通过降batch size解决时必须换卡75% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/468472API
curl https://kongchang.com/api/v1/knowledge/claims/468472MCP
get_claim(id=468472)