各向异性
描述嵌入向量在高维空间中分布不均匀的现象，指预训练语言模型输出的向量倾向于聚集在狭窄锥形区域而非均匀分散，会导致随机文本的余弦相似度虚高，影响检索可靠性
时间轴 (近 90 天)
该框架降低了文本嵌入的各向异性，提高了线性可分性。
绝大多数Embedding模型是各向异性的，其向量不均匀分布于球面，而是挤在一个狭窄的圆锥内，导致无关文本余弦相似度偏高
静态词向量时代各向异性问题已存在且GloVe词向量尤为严重，进入Transformer时代因上下文建模有所缓解但未消失
学术界用有效维度秩（Effective Rank）来量化各向异性现象，理想的各向同性嵌入空间应充分利用所有维度
许多预训练模型产生的向量并非均匀分布在空间中，而是挤在一个狭窄的锥形区域内，这种现象称为各向异性（Anisotropy）
即便是经过指令微调或对比学习优化的现代嵌入模型（如BGE、E5），各向异性问题也并未完全消除，只是程度有所改善
如果大量随机无关文本之间的余弦相似度都偏高（如集中在0.6以上），说明嵌入空间存在明显各向异性
各向异性问题的根源在于预训练语言模型（如BERT系列）的训练目标和架构设计，模型倾向于将高频词和通用语义集中在某些特定方向上
全部知识事实 (8)
该框架降低了文本嵌入的各向异性，提高了线性可分性。
50%待验证绝大多数Embedding模型是各向异性的，其向量不均匀分布于球面，而是挤在一个狭窄的圆锥内，导致无关文本余弦相似度偏高
50%待验证静态词向量时代各向异性问题已存在且GloVe词向量尤为严重，进入Transformer时代因上下文建模有所缓解但未消失
50%待验证学术界用有效维度秩（Effective Rank）来量化各向异性现象，理想的各向同性嵌入空间应充分利用所有维度
50%待验证许多预训练模型产生的向量并非均匀分布在空间中，而是挤在一个狭窄的锥形区域内，这种现象称为各向异性（Anisotropy）
50%待验证即便是经过指令微调或对比学习优化的现代嵌入模型（如BGE、E5），各向异性问题也并未完全消除，只是程度有所改善
50%待验证如果大量随机无关文本之间的余弦相似度都偏高（如集中在0.6以上），说明嵌入空间存在明显各向异性
50%待验证各向异性问题的根源在于预训练语言模型（如BERT系列）的训练目标和架构设计，模型倾向于将高频词和通用语义集中在某些特定方向上
50%