模型文心5.5 Flash Base
文心5.5 Flash Base
百度开源的大模型,采用稀疏MoE架构,总参数280B,激活14B,支持长上下文训练。
时间轴 (近 90 天)
11月7日
百度开源文心5.5 Flash Base,280B参数、稀疏MoE激活14B,用33.5万亿Token做领域训练,支持128K训练上下文。
待验证50%
百度开源的大模型,采用稀疏MoE架构,总参数280B,激活14B,支持长上下文训练。
百度开源文心5.5 Flash Base,280B参数、稀疏MoE激活14B,用33.5万亿Token做领域训练,支持128K训练上下文。