Unverified50% confidenceTradeoffExact time
对于循证医学等高可靠性场景，能诚实表达不确定性的小模型可能比过度自信的大模型更实用，这是一种权衡
1
Sources
50%
Confidence
Long-term
Relevance
10/7/2026
First Seen
Sources
Related Entities
Related Claims
Unverified在高风险强合规场景中，硬失败（拒绝服务）往往优于软失败（自信出错），应保留二元逻辑或让置信度系统在不确定时倾向拒绝76% similarUnverified强化学习适合处理不确定性表达任务，因为人类难以精确标注应表达多少置信度但能判断置信度表达是否合理76% similarUnverified在金融、医疗、法律等高风险领域，宁可不答也不答错，诚实表示需要确认的AI比自信给出错误答案的AI更可靠75% similarUnverified医疗AI中的选择性预测机制在低置信度时拒绝答案转介人工审核，被证明比强制输出答案更能降低临床风险75% similarUnverified大模型普遍存在过度自信的问题，需要通过提示词工程和校准策略来校准置信度75% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/983045API
curl https://kongchang.com/api/v1/knowledge/claims/983045MCP
get_claim(id=983045)