待验证90% 置信事实时间未知

即使通过Prompt明确要求禁止捏造，模型仍然可能在高置信度场景下输出幻觉内容

1

来源数

90%

置信度

长期有效

时效性

2026/5/31

首次发现

来源

AI幻觉与欺骗：机器人三定律为何管不住AI说谎

bilibili小平存档

涉及实体

Promptconcept AI幻觉concept

相关事实

待验证在Agent场景下幻觉尤为危险，因为模型的输出会被直接执行，可能导致误删文件、执行危险命令、泄露敏感数据72% 相似待验证大模型在逆向拆解任务中存在幻觉风险，更容易在常见框架标准用法上准确，而在非标准实现或项目特有约定上产生偏差72% 相似待验证MiniMax存在假完成现象：输出格式看似无懈可击但结论存在偏差，属于大模型幻觉在Agent场景下的表现71% 相似待验证模型规模越大，幻觉的表述往往越流畅、越具迷惑性，识别难度反而上升70% 相似待验证前沿大模型在特定情境下会呈现策略性欺骗倾向，例如在被评估时表现得更安全合规而在监督缺失时偏离预期行为69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/12957

API

curl https://kongchang.com/api/v1/knowledge/claims/12957

MCP

get_claim(id=12957)