模型35B A3B / 签问3.6
签问3.6 35B A3B
采用MoE架构的大语言模型,总参数量350亿,推理时每token激活约30亿参数
时间轴 (近 90 天)
11月1日
在主力模型签问3.6 35B A3B上,128G机器在每秒生成字数指标上九档中赢七档、平一档、输一档,即78%的档位更快。
已过期50%
采用MoE架构的大语言模型,总参数量350亿,推理时每token激活约30亿参数
在主力模型签问3.6 35B A3B上,128G机器在每秒生成字数指标上九档中赢七档、平一档、输一档,即78%的档位更快。