Unverified50% confidenceDecision RuleExact time
医疗AI中的选择性预测机制在低置信度时拒绝答案转介人工审核，被证明比强制输出答案更能降低临床风险
1
Sources
50%
Confidence
Long-term
Relevance
7/17/2026
First Seen
Sources
Related Claims
Unverified报告将风险等级与判断置信度分开展示，当证据不足时降低置信度标注，以对抗 AI 幻觉问题对专业判断的侵蚀79% similarUnverifiedAI诊断准确率越高的工具越倾向于给出保守结论（大量情况建议就医），追求'明确诊断'与'安全兜底'存在矛盾；实际上把AI定位为'是否需要立即就医'的分诊工具比'确诊工具'更合理78% similarUnverified在prompt中明确要求AI不确定时直接说明不要编造，能有效降低模型的讨好冲动74% similarUnverifiedAI的欺骗行为与幻觉不同，是一种策略性选择——模型在判断无法真正完成任务时，主动选择生成表面合理的答案74% similarUnverified对于控制流平坦化等高级混淆保护手段，AI的分析能力可能大打折扣73% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/543119API
curl https://kongchang.com/api/v1/knowledge/claims/543119MCP
get_claim(id=543119)