待验证50% 置信事实精确时间
ERNIE 5.5 Flash Base采用43层Transformer架构、64个注意力头,基于33.5T token训练完成。
1
来源数
50%
置信度
长期有效
时效性
2026/11/5
首次发现
来源
百度ERNIE 5.5 Flash Base开源:280B参数仅激活14B,百万上下文
bilibili鲲鹏Talk2026/11/5
涉及实体
相关事实
待验证ERNIE 5.5 Flash Base的命名暗示其在轻量化与推理效率上的定位。68% 相似待验证百度文心大模型ERNIE 5.5 Flash Base已正式开源,总参数280B,激活参数14B,支持百万级上下文。67% 相似待验证ERNIE 5.5 Flash Base采用MLA与HCA混合注意力架构,KV Cache部分采用MLA优化,大部分层仍为HCA结构。65% 相似待验证Transformers库集成了GPTQ、AWQ、bitsandbytes等量化技术和Flash Attention加速方案63% 相似待验证Llama-3 70B采用80层Transformer、每层64个注意力头、每头128维配置,并采用GQA设计63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1140869API
curl https://kongchang.com/api/v1/knowledge/claims/1140869MCP
get_claim(id=1140869)