概念fine-grained expert segmentation
细粒度专家切分
MoE架构中的一种设计，将每个专家拆分为更小的单元，在总激活参数量不变的情况下，增加token可组合的专家数量，从而扩大路由组合空间。
时间轴 (近 90 天)
10月16日
细粒度专家切分在总激活参数量不变的前提下，将专家选择组合空间从如C(8,2)=28种膨胀到C(64,8)≈44亿种。
待验证50%
10月16日
《Rethinking Routing Exploration in Modern Mixture-of-Experts》论文指出，细粒度专家切分与共享专家组合时会产生探索困境，互相削弱。
待验证50%
10月16日
论文核心判断认为，细粒度切分提供的额外表达能力在共享专家的压制下可能并未被真正兑现。
待验证50%