待验证60% 置信事实精确时间

GPT-3的参数量达1750亿，仅存储这些权重就需要数百GB的空间

2

来源数

60%

置信度

长期有效

时效性

2026/7/24

首次发现

来源

零基础入门大模型微调：原理、场景与实战路径

相关事实

待验证GPT-4级别模型的128K上下文窗口的KV缓存可能占用数十GB显存76% 相似已验证运行70亿参数以上的本地大模型通常需要至少16GB显存的GPU75% 相似待验证推理1T参数的MoE模型即便采用BF16精度减半存储，也需要数百GB显存，远超消费级GPU承载上限73% 相似待验证H100的内存带宽约3.35TB/s，GPT-4规模模型单次生成一个Token需读取约1TB参数数据，理论上每秒最多生成约3个Token70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/607066

API

curl https://kongchang.com/api/v1/knowledge/claims/607066

MCP

get_claim(id=607066)