待验证50% 置信事实精确时间
Accordion-6B-A0.5B经过3.6T token的预训练。
1
来源数
50%
置信度
长期有效
时效性
2026/10/26
首次发现
来源
涉及实体
相关事实
待验证根据Chinchilla缩放定律，一个30B模型的最优训练数据量约为600B-1T tokens66% 相似待验证千问3.8 27B基于千问3.5的整套架构体系，架构层面与3.5完全一致，仅做了继续预训练和后训练（含SFT与RL强化）65% 相似待验证LLaMA系列采用过度训练策略，以7B参数训练了1T token，远超Chinchilla最优配比的140B token62% 相似待验证GPT-3有175B参数、训练300B token，Gopher有280B参数、训练300B token，均属于过参数化欠训练状态61% 相似待验证对比Qwen3-30B-A3B，Hy-Memory-30B-A3B平均提升11分；在训练中从未见过的EverMemOS框架上仍有56.89分。60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1098761API
curl https://kongchang.com/api/v1/knowledge/claims/1098761MCP
get_claim(id=1098761)