待验证50% 置信事实精确时间
OctLLM用显式的八叉树占用令牌序列替代被压缩的隐式表示，并通过独立参数分支引入3D能力而不破坏预训练语言通路
1
来源数
50%
置信度
长期有效
时效性
2026/10/5
首次发现
来源
涉及实体
相关事实
待验证arXiv论文《Octrees as an Explicit 3D Language》提出了OctLLM，针对3D大模型压缩几何信息和微调损害语言能力两个痛点74% 相似待验证离散掩码扩散借鉴BERT的掩码语言建模思路，训练时对序列随机掩码并还原，推理时从全掩码序列多步迭代填充，代表工作有MDLM、SEDD67% 相似待验证传统拼接式多模态方案通常将预训练的视觉编码器（如 CLIP）通过适配层与语言模型对接，模态间理解相对割裂66% 相似待验证模型的格式方言源于指令微调阶段训练数据的格式差异，被模型深度内化形成强烈格式偏好，难以通过运行时提示词完全覆盖65% 相似已验证RoPE（旋转位置编码）、ALiBi 等相对位置编码方案使模型能够处理远超训练时序列长度的文本65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/975909API
curl https://kongchang.com/api/v1/knowledge/claims/975909MCP
get_claim(id=975909)