待验证50% 置信权衡取舍精确时间

在医疗场景中AI客服的容错空间远小于电商或餐饮行业，一个识别错误可能演变为安全隐患

1

来源数

50%

置信度

长期有效

时效性

2026/8/12

首次发现

来源

AI电话助手翻车：连锁药房因数百投诉紧急下线

相关事实

待验证AI在专业领域（如医学、法律、金融）中的错误往往更加隐蔽74% 相似待验证医疗AI中的选择性预测机制在低置信度时拒绝答案转介人工审核，被证明比强制输出答案更能降低临床风险71% 相似待验证报告将风险等级与判断置信度分开展示，当证据不足时降低置信度标注，以对抗 AI 幻觉问题对专业判断的侵蚀70% 相似待验证越专业、越小众的知识领域，AI出错的概率反而越低，因为信息来源相对权威68% 相似待验证黑箱决策不适合高风险场景，AI审核系统在封号等决策时应具备可追溯的触发原因68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/735371

API

curl https://kongchang.com/api/v1/knowledge/claims/735371

MCP

get_claim(id=735371)