待验证50% 置信基准精确时间

在实验中，由4B模型编写技能时27B模型在LiveMath上得分61.0%，而27B自己编写技能时得分56.3%

1

来源数

50%

置信度

长期有效

时效性

2026/8/31

首次发现

来源

WikiSkill论文解读：4B小模型为何能当27B大模型的好老师

涉及实体

Qwen-3.5-4Bmodel Qwen-3.6-27Bmodel LiveMathconcept

相关事实

待验证混合精度训练中，FP16 每个参数占 2 字节显存，FP32 每个参数占 4 字节显存63% 相似待验证2.4万亿参数模型在BF16精度下考虑KV Cache和激活值后实际约需1.4-1.5TB显存62% 相似待验证MoE模型中'35B'指总参数量，每个token只激活少量Expert（通常2-4个），实际计算量可能仅相当于6-7B的Dense模型62% 相似待验证早期Codex在HumanEval基准测试中以37%的准确率独立解决编程题，达到当时最高水平62% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/828181

API

curl https://kongchang.com/api/v1/knowledge/claims/828181

MCP

get_claim(id=828181)