待验证50% 置信事实精确时间
Ethayarajh等人于2019年通过实证研究揭示BERT、GPT等预训练模型的词向量高度集中在狭窄的锥形区域内,存在各向异性
1
来源数
50%
置信度
长期有效
时效性
2026/7/7
首次发现
来源
分散损失:破解小语言模型嵌入坍缩的关键技术
hackernewshackernews2026/7/3
相关事实
待验证FID(Fréchet Inception Distance)由Heusel等人于2017年提出,用预训练Inception网络提取特征并将分布建模为多元高斯,计算Fréchet距离,FID值越低表明分布越接近61% 相似待验证2023年多项学术研究证明,即使经过严格安全对齐训练的模型,当恶意指令以自然语言文档形式出现在上下文窗口中时,其遵循率仍显著高于直接注入场景61% 相似待验证Vicinal Risk Minimization(VRM)理论由Chapelle等人在2001年提出,主张在训练样本的邻域上最小化风险61% 相似待验证可借助Fréchet Inception Distance(FID)或Maximum Mean Discrepancy(MMD)等分布距离度量来量化增强后训练分布与真实测试分布之间的偏移61% 相似待验证文生图模型的理解本质上是大规模统计关联,面对训练集中稀少出现的长尾概念时生成质量会显著下滑60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/189248API
curl https://kongchang.com/api/v1/knowledge/claims/189248MCP
get_claim(id=189248)