Verified65% confidenceFactExact time
RoPE（旋转位置编码）由苏剑林于2021年提出，已成为 LLaMA、Qwen、Mistral 等主流模型的标配
3
Sources
65%
Confidence
Long-term
Relevance
7/14/2026
First Seen
Sources
15岁少年从零训练200M MoE语言模型：完整架构与实战拆解
redditr/learnmachinelearning7/12/2026
Related Claims
UnverifiedLLaVA于2023年提出视觉编码器+投影层+LLM的三段式极简范式，被InternVL、Qwen-VL等后续工作继承66% similarUnverified第一代Qwen于2023年8月发布，基于标准Transformer架构，采用RoPE、前置RMS Norm、SwiGLU激活函数，并去掉大部分线性层的偏置项64% similarUnverifiedLlama系列由Meta AI于2023年以开源形式发布，采用Transformer Decoder架构，通过RoPE和GQA等优化降低推理显存占用60% similarUnverified智谱GLM系列模型自2022年起持续迭代，与Meta的LLaMA、Mistral等西方开源模型竞争60% similarUnverifiedYaRN由Peng等人于2023年提出，通过对RoPE旋转频率进行非均匀缩放来扩展上下文窗口60% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/503164API
curl https://kongchang.com/api/v1/knowledge/claims/503164MCP
get_claim(id=503164)