概念Batch Invariance
批次不变性
一种推理一致性技术,通过固定计算图与归约顺序,使单请求的输出与其所在批次无关,确保结果可复现。
时间轴 (近 90 天)
10月23日
DeepSeek-Infer具备批次不变性,确保同一个请求无论跟谁放在一批里计算,模型的结果都保持一致。
待验证50%
一种推理一致性技术,通过固定计算图与归约顺序,使单请求的输出与其所在批次无关,确保结果可复现。
DeepSeek-Infer具备批次不变性,确保同一个请求无论跟谁放在一批里计算,模型的结果都保持一致。