[控场AI]
模型Kunon 3.8 FlashNext

Kunon 3.8 FlashNext

极度稀疏的 MoE 大语言模型,主干 125B 参数,含 24,576 个专家,每 Token 仅激活约 6B 参数,适合低显存本地推理。

时间轴 (近 90 天)

11月4日

Kunon 3.8 FlashNext 模型主干有 125B 参数,总共 24,576 个专家,每层 512 个路由专家中每个 Token 只激活 10 个,单次实际参与计算的参数量约 6B。

待验证50%
11月4日

Kunon 3.8 FlashNext 模型带有一张约 51B 参数的 Ngram 表。

待验证50%
11月4日

使用 Strata 运行 Kunon 3.8 FlashNext 时,建议使用 IQ2 或 IQ3 量化档,系统内存准备 48GB 到 64GB,NVMe 固态硬盘留出 70GB 到 80GB。

待验证50%

全部知识事实 (3)

来源文章