Unverified50% confidenceFactExact time
InfoNCE 损失通过在一批候选中最大化正样本对相似度、最小化负样本对相似度进行训练，温度超参数τ越小分布越集中
1
Sources
50%
Confidence
Long-term
Relevance
7/15/2026
First Seen
Sources
Related Claims
Unverified对比学习中的推远操作只要求负样本相似度低于正样本，并不要求达到-1的极端值71% similarUnverified困惑度是测试集上每个token平均负对数似然的指数，值越低代表模型对语料的预测越准确71% similarUnverified贝叶斯最优分类器在0-1损失下等价于选择后验概率最大的类别，回归问题中条件期望在平方损失下是最优预测69% similarUnverified负采样将每步训练的复杂度从O(V)降低到O(k)，k是负样本数（通常取5-20）69% similarUnverified基准测试面临饱和（Saturation）和数据污染（Data Contamination）两个系统性挑战，当多个主流模型得分超过95%时测试集失去区分能力68% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/519207API
curl https://kongchang.com/api/v1/knowledge/claims/519207MCP
get_claim(id=519207)