概念forward pass / 前向推理
前向传播
神经网络推理的基本计算过程，模型接收输入token序列，经过各层计算输出概率分布，LLM每次API调用均为独立的前向传播，不保留跨请求状态
时间轴 (近 90 天)
10月14日
不恰当的权重初始化会导致信号在前向传播中逐层衰减或爆炸，梯度在反向传播中消失或发散。
待验证50%
10月13日
前向传播是神经网络从输入层到输出层完整计算一次的过程；自回归语言模型生成N个token需N次前向传播，延迟随输出长度线性增长；分类器式模型只需一次前向传播。
待验证50%
10月11日
Drex 1.5 能在一次前向传播中为所有候选选项返回概率
待验证50%
10月11日
用生成式模型评估 K 个候选选项时，总成本随选项数线性增长，而单次前向传播可将推理成本压缩到一次计算
待验证50%