待验证50% 置信事实精确时间
该 26.2M 模型采用 8 层 encoder-only Transformer，d_model 384，6 个注意力头，FFN 维度 1536，最大 160 token，使用自研 16k 字节级 BPE 分词器和 15,000 个编辑标签。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/12
首次发现
有效期至：2027/1/10
来源
涉及实体
相关事实
待验证Llama-3.1-8B 等模型基于 Transformer 解码器堆叠构建，通常包含32个decoder层，单层参数量约2.5亿，FP16精度下单层约占500MB显存75% 相似待验证d1-omni-600M 基于 LFM2.5-Encoder-350M 双向编码器构建，而非在因果解码器上接分类头，上下文窗口为 16,384 tokens。73% 相似待验证d1-3B 参数量为 3.12B，视觉编码器是 SigLIP2 NaFlex 形状优化版本（400M），上下文长度 32,768 token，词表 128,000，权重格式为 Safetensors/BF16，基础模型是 LFM2.5-VL-3B（文本骨干与 LFM2.5-2.6B 做了权重平均），许可证为 lfm1.0。70% 相似待验证d1-omni-600M 包含 381M 共享主干加决策头、94M SigLIP2 视觉编码器（来自 LFM2.5-VL-450M）和 112M 17 层 FastConformer 音频编码器。69% 相似待验证完整管线的真实参数量为16.22B，其中Transformer为7.115B、文本编码器(Qwen3-VL 8B)为8.767B、VAE为0.338B67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1009454API
curl https://kongchang.com/api/v1/knowledge/claims/1009454MCP
get_claim(id=1009454)