待验证50% 置信事实精确时间
ZHA 只需在几千亿 token 量级上进行简短的 KL 蒸馏训练,即可应用到现有预训练模型,无需从头预训练。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/11/2
首次发现
有效期至:2027/1/31
来源
涉及实体
相关事实
待验证ZGCM-1公开了预训练、中期训练、后训练三个阶段的模型权重、中间检查点、完整训练代码、数据与数据配方及W&B训练日志69% 相似待验证Serverless Training 更适合中小规模微调场景(如 LoRA、QLoRA),而非从头预训练数十亿参数级基础模型67% 相似待验证真正可用的 1-bit 级别大模型将是一类全新训练(引入量化感知训练QAT)的模型,而非对现有模型的事后压缩67% 相似待验证QLoRA 的核心思路是先将预训练模型以 4-bit 精度量化以降低显存占用,再仅训练少量低秩适配矩阵而不更新原始权重67% 相似待验证PFN将贝叶斯计算摊销到一次性的预训练过程中,无需在部署时做显式的后验采样65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1125734API
curl https://kongchang.com/api/v1/knowledge/claims/1125734MCP
get_claim(id=1125734)