Feed Entities Podcasts Deep Dives Developers About

[KongchangAI]

Real-time AI knowledge base. Every claim is traceable to its source, with data freshness under 24 hours.

Powered by 240+ first-hand AI sources

Knowledge

Feed
Hot Entities
Podcasts

Developers

CLI
MCP Server
REST API
About

© 2026 KongchangAI. The freshest, most accurate AI knowledge

Unverified50% confidenceFactExact time

Ethayarajh等人于2019年通过实证研究揭示BERT、GPT等预训练模型的词向量高度集中在狭窄的锥形区域内，存在各向异性

1

Sources

50%

Confidence

Long-term

Relevance

7/7/2026

First Seen

Sources

分散损失：破解小语言模型嵌入坍缩的关键技术

hackernewshackernews7/3/2026

Related Claims

UnverifiedFID（Fréchet Inception Distance）由Heusel等人于2017年提出，用预训练Inception网络提取特征并将分布建模为多元高斯，计算Fréchet距离，FID值越低表明分布越接近61% similar Unverified2023年多项学术研究证明，即使经过严格安全对齐训练的模型，当恶意指令以自然语言文档形式出现在上下文窗口中时，其遵循率仍显著高于直接注入场景61% similar UnverifiedVicinal Risk Minimization（VRM）理论由Chapelle等人在2001年提出，主张在训练样本的邻域上最小化风险61% similar Unverified可借助Fréchet Inception Distance（FID）或Maximum Mean Discrepancy（MMD）等分布距离度量来量化增强后训练分布与真实测试分布之间的偏移61% similar Unverified文生图模型的理解本质上是大规模统计关联，面对训练集中稀少出现的长尾概念时生成质量会显著下滑60% similar

Cite This Claim

Stable URI

https://kongchang.com/claim/189248

API

curl https://kongchang.com/api/v1/knowledge/claims/189248

MCP

get_claim(id=189248)