待验证50% 置信事实精确时间
RecSA从Qwen3-4B初始化,在原模型的32K训练长度上使用0.62B token进行训练。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/11/6
首次发现
有效期至:2027/2/4
来源
涉及实体
相关事实
待验证使用 QLoRA 在 A100 和 RTX PRO 6000 上,Qwen3.5-35B-A3B 的训练速度最高可提升 4.1 倍,Qwen3-30B-A3B 最高提升 3.3 倍68% 相似待验证340M 与 1.3B 是参数量级,4K 上下文指训练/评估序列长度为 4096 token。65% 相似待验证Accordion-6B-A0.5B经过3.6T token的预训练。65% 相似待验证根据Chinchilla缩放定律,一个30B模型的最优训练数据量约为600B-1T tokens65% 相似待验证从 Qwen3.8-27B 收集了 3189 条成功的 rollout 数据做监督微调(模仿学习),性能停滞在 47.5%,低于两次 RL 训练的成绩65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1141963API
curl https://kongchang.com/api/v1/knowledge/claims/1141963MCP
get_claim(id=1141963)