待验证50% 置信事实精确时间

EmsyAI的训练token量为19.6亿，上下文窗口4096 tokens，隐藏维度1024，FFN维度2816，词表约16k

1

来源数

50%

置信度

长期有效

时效性

2026/9/12

首次发现

来源

从零训练2亿参数大模型：踩坑实录与工程经验

涉及实体

相关事实

待验证170k tokens场景下，注意力得分矩阵在BF16精度下约需54GB显存（170000×170000×2字节）63% 相似待验证IMGNet 模型仅有10.58 MB（FP32），在CASIA-WebFace数据集（49万张图像）上训练62% 相似待验证开发者公布在RTX 3050 Laptop（4GB）上微调Llama-3.1-8B的实测结果为训练速度119.6 tok/s，峰值显存3.32 GB61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/912643

API

curl https://kongchang.com/api/v1/knowledge/claims/912643

MCP

get_claim(id=912643)