Unverified50% confidenceFactExact time
多token预测(Multi-token Prediction)是Meta等团队研究的方向，通过预测未来k个token提供更丰富训练信号
1
Sources
50%
Confidence
Long-term
Relevance
8/24/2026
First Seen
Sources
Related Entities
Related Claims
UnverifiedMTP（Multi-Token Prediction）辅助训练目标让模型在推理时可配合投机解码提升吞吐量79% similarVerified集成学习的核心思想是将多个弱学习器或差异化模型的预测结果加以综合，以获得比单一模型更稳健的输出73% similarUnverifiedLLM的核心机制是预测下一个最可能出现的token，即在训练数据分布中寻找概率最高的路径70% similarUnverified预训练的核心目标是让模型具备预测下一个词（Predict Next Token）的能力，基于Transformer架构中的因果注意力机制70% similarUnverified奖励模型的训练可使用Bradley-Terry模型等排序学习框架，训练神经网络预测任意两个回答之间的人类偏好概率，接收(prompt, response)对并输出标量分数70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/793880API
curl https://kongchang.com/api/v1/knowledge/claims/793880MCP
get_claim(id=793880)