待验证50% 置信概念精确时间
工具调用(Tool Use / Function Calling)让LLM能执行真实操作,将提示注入的后果从输出错误文字升级为触发真实副作用。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
涉及实体
相关事实
待验证Tool Calling允许LLM在生成回复时决定调用预定义的外部函数或API,并将结果纳入后续推理75% 相似部分验证提示注入是LLM应用面临的一类攻击模式,攻击者将恶意指令伪装成正常内容诱导模型执行。70% 相似待验证assistant message 用于模拟 LLM 的文本回复,function call 用于模拟 LLM 决定调用工具时产生的调用指令70% 相似待验证接入工具的系统如果模型能调用API、发送消息、写入数据库或执行代码,被执行的注入指令可能造成不可逆的后果。68% 相似待验证Function Calling机制让LLM从只能生成文本升级为能操作外部系统,是Agentic CRM中智能体执行数据写入、状态更新等动作的技术基础67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1071259API
curl https://kongchang.com/api/v1/knowledge/claims/1071259MCP
get_claim(id=1071259)