待验证50% 置信注意事项精确时间

如果数据里给了工具就一定会用，模型会习得看到工具就必须用的错误关联

1

来源数

50%

置信度

长期有效

时效性

2026/9/17

首次发现

来源

深入解析大模型后训练：NVIDIA Nemotron专家揭秘Post-Training全流程

涉及实体

工具调用concept

相关事实

待验证工具调用使攻击面从让模型说错话升级为让模型做错事，危害从信息误导上升为实质性的数据访问和系统篡改76% 相似待验证错误信息应写给模型看，必须是「可操作的」而非「技术正确的」，抛出解析器原始报错对模型毫无价值74% 相似待验证基于模型内部特征的推断方法面临误报与漏报的权衡72% 相似待验证系统会试探性地应用补丁，若失败则将错误信息反馈给模型进行修正，构成闭环纠错机制70% 相似待验证在 Agentic 场景中，错误来源可能是 prompt 设计缺陷、工具 API 返回格式不符预期、多步推理中的信息损耗或模型领域知识盲区69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/928824

API

curl https://kongchang.com/api/v1/knowledge/claims/928824

MCP

get_claim(id=928824)