Unverified50% confidenceFactExact time
Matryoshka 表示学习在训练时对同一向量的多个前缀长度同时施加监督损失,迫使模型将最重要的语义信息优先编码到向量的前几个维度
1
Sources
50%
Confidence
Long-term
Relevance
10/3/2026
First Seen
Sources
Related Entities
Related Claims
Unverified对比学习方法SimCSE通过拉近正样本对、推远负样本对来塑造嵌入几何,成功应用于句子表示73% similarVerified微调是在通用预训练模型基础上用特定领域数据进行二次训练,使模型能将领域知识内化为参数,推理时无需额外检索步骤,延迟更低72% similarVerified当输入信息不完整时,大语言模型会基于训练数据中最常见的模式进行补全,这在统计学上叫做最大似然估计71% similarUnverifiedDeepMind的Chinchilla定律证明训练数据量与模型参数量的最优配比会随时间演进而改变,同等FLOP投入可产生能力差异显著的模型71% similarVerified当模型训练数据包含评测集题目或高度相似内容时,模型可能通过记忆而非真正理解获得高分71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/969612API
curl https://kongchang.com/api/v1/knowledge/claims/969612MCP
get_claim(id=969612)