待验证50% 置信事实精确时间

Beam 在 23.8 万亿高质量 Token 上预训练。

1

来源数

50%

置信度

长期有效

时效性

2026/10/19

首次发现

来源

501B MoE模型Beam：用更少Token实现前沿推理

涉及实体

相关事实

待验证Beam采用稀疏混合专家（Sparse MoE）架构，共52层，每次只激活230亿参数65% 相似待验证Beam 对显存的需求接近一个 501B 量级的模型，而对算力的需求则接近 23B 量级。60% 相似待验证Beam 在编码和智能体任务上达到前沿水平，同时比同类开源模型少用约 3-4 倍的推理 Token。60% 相似待验证Beam 的总参数量为 501B，每 token 激活参数为 23B（约 4.6% 的网络被激活）。60% 相似待验证Beam 在 SWEBench Verified 上达到 81.6%（BF16）。58% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1070562

API

curl https://kongchang.com/api/v1/knowledge/claims/1070562

MCP

get_claim(id=1070562)