待验证50% 置信事实精确时间

决定AI是否妥协的不是内容，而是来源标签——相同的安抚话术加上护士热线标签就会使AI有四分之一甚至更高的概率退让

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/11

首次发现

有效期至：2027/1/9

来源

一张假护士条就能让AI改口：医疗建议的"反驳测试"揭示安全隐患

涉及实体

The Pushback Testproduct

相关事实

待验证医疗AI中的选择性预测机制在低置信度时拒绝答案转介人工审核，被证明比强制输出答案更能降低临床风险75% 相似待验证绝大多数AI风险披露不具实质性，更多是样板式或合规式的表述73% 相似待验证约束驱动提示（明确告知AI不应做什么）往往比目标驱动提示更能减少幻觉输出73% 相似待验证评估AI方案的关键在于是否能回答「为什么在这个场景下选择这一方案而非替代方案」这类具体问题73% 相似待验证在AI代理场景中，权限最小化原则尤为关键，因为AI的行为具有一定的不可预测性——即使是同一个提示词，不同上下文下可能产生不同的命令序列72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/999513

API

curl https://kongchang.com/api/v1/knowledge/claims/999513

MCP

get_claim(id=999513)