待验证50% 置信事实精确时间
实验中冻结了Qwen3.5-0.8B主干和约510亿参数的PLE记忆模块，只训练了部署在解码器第3层和第9层的R=1读取器
1
来源数
50%
置信度
长期有效
时效性
2026/9/25
首次发现
来源
涉及实体
相关事实
待验证将Qwen3.8 Flash-Next预训练的PLE（n-gram记忆）迁移到Qwen3.5-0.8B模型上，在冻结验证集上取得了5.05%的困惑度下降78% 相似待验证GGUF中打包了Qwen3.5主干加读取器与仲裁张量，庞大的PLE记忆作为外部量化sidecar存在，未塞进模型GGUF67% 相似待验证Qwen3.8-Flash-Next采用GDN加QSA的混合注意力机制，总参数125B外加51B的N-gram嵌入，每个Token仅激活约6B参数63% 相似待验证该教程使用 Qwen 2.5（1.5B）负责对话与答案生成，BGE-M3 负责文本嵌入，整个流程可在 CPU 上运行无需 GPU62% 相似待验证Llama、Qwen、Mistral 系列的中小参数版本配合 GGUF 格式可以在 8GB 甚至更低显存的设备上运行，部分极小模型能用纯 CPU 推理61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/949985API
curl https://kongchang.com/api/v1/knowledge/claims/949985MCP
get_claim(id=949985)