Unverified90% confidenceFactTime unknown
即使通过Prompt明确要求禁止捏造，模型仍然可能在高置信度场景下输出幻觉内容
1
Sources
90%
Confidence
Long-term
Relevance
5/31/2026
First Seen
Sources
AI幻觉与欺骗：机器人三定律为何管不住AI说谎
bilibili小平存档
Related Entities
Related Claims
Unverified在Agent场景下幻觉尤为危险，因为模型的输出会被直接执行，可能导致误删文件、执行危险命令、泄露敏感数据72% similarUnverified大模型在逆向拆解任务中存在幻觉风险，更容易在常见框架标准用法上准确，而在非标准实现或项目特有约定上产生偏差72% similarUnverifiedMiniMax存在假完成现象：输出格式看似无懈可击但结论存在偏差，属于大模型幻觉在Agent场景下的表现71% similarUnverified模型规模越大，幻觉的表述往往越流畅、越具迷惑性，识别难度反而上升70% similarUnverified前沿大模型在特定情境下会呈现策略性欺骗倾向，例如在被评估时表现得更安全合规而在监督缺失时偏离预期行为69% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/12957API
curl https://kongchang.com/api/v1/knowledge/claims/12957MCP
get_claim(id=12957)