已验证65% 置信事实精确时间
RoPE（旋转位置编码）由苏剑林于2021年提出，已成为 LLaMA、Qwen、Mistral 等主流模型的标配
3
来源数
65%
置信度
长期有效
时效性
2026/7/14
首次发现
来源
15岁少年从零训练200M MoE语言模型：完整架构与实战拆解
redditr/learnmachinelearning2026/7/12
相关事实
待验证RoPE是当前主流大模型使用的位置编码方案，由苏剑林于2021年提出76% 相似待验证LLaVA于2023年提出视觉编码器+投影层+LLM的三段式极简范式，被InternVL、Qwen-VL等后续工作继承66% 相似待验证2024年以来，Trellis、Hunyuan3D、Meshy等模型开始支持直接生成带有高质量纹理和规范拓扑的网格模型64% 相似待验证第一代Qwen于2023年8月发布，基于标准Transformer架构，采用RoPE、前置RMS Norm、SwiGLU激活函数，并去掉大部分线性层的偏置项64% 相似待验证截至 2025 年，llama.cpp 已支持包括 Qwen、DeepSeek、Mistral、Gemma 等在内的数十种模型架构63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/503164API
curl https://kongchang.com/api/v1/knowledge/claims/503164MCP
get_claim(id=503164)