概念Calibrated Probability / Calibration / 模型校准
校准概率
概率论与机器学习中的质量指标,指模型输出的置信度概率与实际正确率高度吻合,良好校准的模型其预测概率可直接用作风险概率进行阈值决策
时间轴 (近 90 天)
9月21日
校准概率可让工程师设定阈值实现自动转人工审核,例如置信度低于60%时转人工复核
待验证50%
8月28日
精确数值计算是符号操作过程,需要遵循确定性规则,与基于统计概率的token预测机制存在根本性矛盾
待验证50%
概率论与机器学习中的质量指标,指模型输出的置信度概率与实际正确率高度吻合,良好校准的模型其预测概率可直接用作风险概率进行阈值决策
校准概率可让工程师设定阈值实现自动转人工审核,例如置信度低于60%时转人工复核
精确数值计算是符号操作过程,需要遵循确定性规则,与基于统计概率的token预测机制存在根本性矛盾