待验证50% 置信事实精确时间
REMORY 在 64 块 A100 上训练 25 万步收敛，最终发布的 checkpoint 约 3.5 亿参数，占 1.4GB 显存
1
来源数
50%
置信度
长期有效
时效性
2026/10/11
首次发现
来源
涉及实体
相关事实
待验证TEMPEST模型仅有72万参数，存储占用2.80 MB，并能在50个训练周期内收敛75% 相似待验证在A100(80GB显存)GPU上,训练7B模型的吞吐量约为每秒3000-5000 token75% 相似待验证演示中构造了10000×10000×10规模的Float32Array作为测试数据，规模达到GB级别，单次计算耗时一秒多，其中约一秒是4GB内存空间的初始化而非语言交互开销70% 相似待验证训练时Adam优化器会额外存储梯度动量，约为权重的2-3倍，70B模型完整训练内存需求轻易超过400GB70% 相似已验证对于拥有32层、32头注意力的典型7B模型，每个token需约0.5MB显存存储KV Cache，生成1000个token则需额外约500MB显存69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/998485API
curl https://kongchang.com/api/v1/knowledge/claims/998485MCP
get_claim(id=998485)