[控场AI]
概念MTP / Multi-Token Prediction

多token预测

一种语言模型解码技术,允许模型在单次前向传播中预测多个token,常与推测解码结合使用以提升推理效率

来源文章