待验证50% 置信事实精确时间
现代大语言模型训练时优化的交叉熵损失，本质上是在最小化对文本的编码长度
1
来源数
50%
置信度
长期有效
时效性
2026/9/22
首次发现
来源
涉及实体
相关事实
待验证当大语言模型用其他AI生成的文本进行训练时，输出内容的可读性会下降77% 相似待验证大语言模型存在「指令漂移」（instruction drift）现象，随着对话轮次增加和上下文窗口被大量代码填充，模型对早期指令的遵循概率会逐步下降74% 相似待验证代码混用（code-mixing）现象会对现有预训练语言模型造成显著的性能退化74% 相似待验证当训练数据中某些文本出现频率极高时，大语言模型可能产生记忆化（Memorization）现象，能够近乎逐字输出特定段落73% 相似待验证传统n-gram模型和单语训练的神经语言模型在遇到跨语言词序列时会给出极低的概率分数，导致解码器倾向于将外语词强行映射为发音相近的本语言词73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/940780API
curl https://kongchang.com/api/v1/knowledge/claims/940780MCP
get_claim(id=940780)