[控场AI]
概念Deterministic LLM inference / 确定性推理

确定性LLM推理

一种通过固定随机种子、采用贪婪解码等手段控制大语言模型推理随机性的技术方向,使模型在相同输入下始终产生完全一致的输出,适用于测试、回归验证和合规性要求较高的场景

时间轴 (近 90 天)

9月12日

确定性推理指通过控制随机因素,使模型在相同输入下始终产生完全一致的输出

待验证60%

全部知识事实 (1)

来源文章