待验证50% 置信事实精确时间
当前主流长上下文方案普遍采用RoPE并配合YaRN、LongRoPE等外推技术
1
来源数
50%
置信度
长期有效
时效性
2026/10/3
首次发现
来源
涉及实体
相关事实
已验证RoPE通过在复数空间内进行旋转变换编码相对位置,配合YaRN、LongRoPE等外推技术可扩展有效上下文长度77% 相似待验证YaRN(Yet another RoPE extensioN)是一种针对旋转位置编码(RoPE)的扩展方法,由Bowen Peng等人于2023年提出,通过对高频、中频、低频分量分别采用差异化缩放策略,使模型无需重新训练或仅需少量微调即可将有效上下文长度扩展数倍70% 相似待验证RoPE旋转位置编码通过相对位置表示提升长程依赖捕捉能力,已被LLaMA、DeepSeek等广泛采用62% 相似待验证RoPE(旋转位置编码)已成为当前主流LLM(包括Llama、Mistral、Qwen等)的标准选择,兼具实现简洁性和长度外推优势59% 相似待验证RoPE 旋转位置编码因长度外推的优良特性被 LLaMA、Qwen 等开源模型广泛采用58% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/969980API
curl https://kongchang.com/api/v1/knowledge/claims/969980MCP
get_claim(id=969980)