Unverified85% confidenceFactTime unknown
大模型普遍存在过度自信的问题，需要通过提示词工程和校准策略来校准置信度
1
Sources
85%
Confidence
Long-term
Relevance
6/1/2026
First Seen
Sources
AI项目评测体系：5大层级30项指标实战指南
bilibili卢菁博士_北大AI博士后
Related Entities
Related Claims
Unverified当模型在垂直领域准确率不够高、频繁产生幻觉或需要掌握企业私有专业知识时，值得考虑微调72% similarUnverified当模型缺乏某个库的准确知识时，倾向于生成语法正确但语义错误的代码，即'自信错误'71% similarUnverified最新研究"The Danger of Overthinking"指出能做脑内模拟的模型存在想太多的问题，有些模型反复思考却不行动甚至还没尝试就自我放弃70% similarUnverified由于大语言模型存在提示词注入攻击风险和幻觉问题，权限过大的Agent可能在被恶意输入诱导或判断失误时对业务数据、外部系统造成不可逆破坏70% similarUnverified当前工具选择策略高度依赖模型的即时判断，缺乏系统性优化，在企业场景中可用工具可达数十乃至数百个，模型选择时易出现幻觉、重复调用或选错工具69% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/27432API
curl https://kongchang.com/api/v1/knowledge/claims/27432MCP
get_claim(id=27432)