待验证50% 置信事实精确时间

Tiny-MoE模型在80亿（8B）token上从零训练

1

来源数

50%

置信度

长期有效

时效性

2026/7/13

首次发现

来源

15岁少年从零训练200M MoE语言模型：完整架构与实战拆解

redditr/learnmachinelearning2026/7/12

相关事实

待验证构建10B激活1B（10B1A）的MoE模型相比10B稠密模型，训练成本低10倍，推理速度也更快66% 相似待验证MiniMind-V是一个开源项目，能在2小时内从零训练一个拥有65M（6500万）参数的视觉多模态模型64% 相似待验证使用Omnigent的跨模型工作流从零到跑通实际耗时不到10分钟55% 相似待验证一位开发者训练了一个仅有1.25亿参数（125M）的模型，能在设备本地实时为钢琴演奏进行自动补全55% 相似待验证零基础用户可以在大约一个小时内完成从 0 到 1 的首次实践，创造出一个可运行的小东西54% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/501385

API

curl https://kongchang.com/api/v1/knowledge/claims/501385

MCP

get_claim(id=501385)