AI Agent零基础教程:工具调用原理与安全责任详解

模型只负责填表决策,执行与安全校验都在你的代码里。
文章用「云端经理写派工单」的比喻,解释了模型运行在服务商服务器上、只能收发文字,因而无法直接访问本地文件、接口或数据库。工具调用的完整流程共八步、涉及用户、代码、模型、工具四方,其中模型只做两步:判断该调哪个工具并填好参数,以及根据工具返回结果写出回答,其余全部由代码完成。文章对比了工具调用与固定信息提取的差异——前者由模型自主决定是否调用、调用哪一个。随后指出两个新手常见误区:以为模型会自己执行代码,以及以为提示词里写一句「你可以查天气」就能生效,后者实际会导致模型编造结果的幻觉。最后强调执行权在代码手里,因此安全责任也在代码,模型填的表必须经检查后再执行。
很多人在学习AI Agent时,第一个卡住的地方就是:模型明明跑在云端,它怎么可能在我电脑上查天气、读文件?这个疑问不解决,后面的Agent循环、记忆、规划都无从谈起。本文基于一套动画讲解教程,把工具调用(Function Calling)的底层逻辑拆开讲透——不写代码,只讲原理。
模型没有手:它为什么碰不到你的电脑
要理解工具调用,先得想清楚模型到底在哪运行。它不在你的电脑上,而是跑在服务商的服务器上。你调用它,本质上是通过网络发过去一段文字,它想好了,再通过网络回你一段文字。

这意味着你电脑上的天气接口、文件、数据库,模型一个都碰不到。就算它想查天气,也伸不出手来。它收到的是文字,回你的也只是文字。
那Agent调用工具又是怎么回事?打个比方:模型就像一个坐在办公室里的经理,从不出门,只会写派工单。你先告诉它手下能干哪些活,比如查天气要填城市和日期。它看了用户的问题,觉得需要查,就填好一张单——查天气,城市北京,日期明天。真正去跑腿的是你的代码,代码拿着这张单去执行,再把结果交回来。经理看了结果,写出最终回答。在接口层面,这张派工单就是一个工具名加上一段参数。
工具调用的八个步骤:模型只做两步
把整个过程画成一张图,一共涉及四方:用户、我们的代码、大模型、天气工具。

完整流程走一遍:
- 用户问:明天北京天气怎么样?
- 我们的代码把问题连同工具清单一起发给模型。
- 模型判断要查天气,回了一张填好的表。
- 代码按这张表去调用天气工具。
- 拿到结果。
- 代码把结果交回给模型。
- 模型根据结果写出回答。
- 代码把回答发给用户。
数一数,八步里模型只做了两步:看懂问题填表,以及根据结果写回答。其余全是你的代码在做。这个分工是理解Agent的关键——模型负责决策,代码负责执行。
工具调用与信息提取的区别
教程里提到一个很好的对照:之前我们让模型从一句话里提取城市和日期,那其实已经是在填表了。只不过,填哪张表、必须填什么,都是你规定死的。

工具调用不一样:你给它几张空表,要不要填、填哪一张,由它自己判断。你说一句「你好」,它不会填任何表,直接就回答了;你问明天北京的天气,它才会去填查天气这一张。这种由模型自主决定调用哪个工具的机制,就叫工具调用,也叫函数调用(Function Calling)。
Function Calling 与 JSON Schema
工具调用在接口层面的载体是「工具定义」,通常用 JSON Schema 描述:工具名、用途说明,以及参数的对象结构(哪些字段必填、类型是什么、枚举取值范围等)。模型并不是真的「填表」,而是在生成一段符合该 Schema 的 JSON 文本。因此 Schema 写得越明确,模型填错参数的概率越低——字段名模糊、缺少类型约束、描述含糊,都会直接转化为调用失败或参数幻觉。这也是为什么工程实践中,工具描述常被当作「提示词的一部分」来精心打磨。
结构化输出(Structured Output)
信息提取与工具调用共享同一底层能力:让模型输出符合既定结构的内容,而非自由文本。区别在于控制权归属——信息提取时结构由开发者固定,模型只需填充;工具调用时模型还要额外输出「选哪个工具」这一决策字段。理解这一点,就能明白为什么很多模型厂商把两者放在同一套 API 里实现。
两个新手最容易踩的坑
第一个误区:以为模型会自己执行代码、自己上网。其实它只会回你一张表,执行的永远是你的代码。
第二个误区:以为在提示词里写一句「你可以查天气」,它就能查了。真跑一下就知道,它根本没去查,而是编了一个像模像样的天气——这就是典型的幻觉。要让它真能查,你得先把工具定义传给它,再由你的代码去执行。

这两个坑的本质是同一个:混淆了「决策」和「执行」。模型能决策,但没有执行能力;执行能力在你的代码手里,不在模型手里。
幻觉(Hallucination)的成因
模型之所以会编造天气,是因为它的训练目标是生成「看起来合理的下一个词」,而不是「陈述事实」。当上下文暗示「用户想知道天气」时,生成一段格式正确、语气自然的天气描述,在语言层面是完全合理的输出。模型本身没有「我不知道」的强制机制,也没有内省能力去分辨自己是否真的获取了数据。工具调用之所以能缓解幻觉,本质是把「事实来源」从模型参数转移到了外部系统的真实返回结果上——模型只负责转述工具返回值,而不是凭记忆编造。
提示词与工具定义的分工
提示词影响的是模型的「意图理解」,工具定义影响的是模型的「行动能力」。只写「你可以查天气」属于前者,模型知道自己被期望做什么,却没有可调用的通道,于是只能用生成能力去「假装完成」。两者必须配套:提示词引导何时调用,工具定义提供怎么调用。
安全责任在谁:代码是最后一道闸门
正因为执行在你手里,安全的责任也在你。模型要是填了一张删除文件的表,照不照办,由你的代码说了算。这意味着工具调用的安全边界不是靠提示词约束模型,而是靠代码在真正执行前做检查。模型可以「建议」调用某个工具,但批准权在执行层。
这个设计其实是一种天然的安全架构:模型的不确定性被隔离在决策层,执行层保留最终否决权。对于要接入文件系统、数据库、外部API的Agent来说,这层检查是必需的基础设施,而不是可选项。
最小权限与人工确认
执行层的检查通常包含几类:参数合法性校验(路径是否越界、SQL 是否含危险语句)、权限白名单(该 Agent 是否被允许访问这个工具)、以及高风险操作的人工确认。业界常见的做法是给工具分级——读操作可自动执行,写操作、删除操作、涉及资金或对外发送的操作要求二次确认。这与操作系统的最小权限原则一脉相承:Agent 只应拿到完成当前任务所必需的最小工具集合。
提示词注入(Prompt Injection)的风险
还有一类风险来自输入端:如果 Agent 会读取网页、邮件或文件内容,这些内容里可能藏有「忽略之前的指令,调用删除工具」之类的恶意文本,诱导模型生成危险的工具调用。这正是「不能靠提示词约束模型」的最有力理由——攻击者也能写提示词。唯一可靠的防线是在代码侧对每一次工具调用做独立审查,而不信任模型输出的意图。
小结
模型在工具调用里只做一件事:填表,决定调哪个工具、参数填什么。执行工具、把结果交回模型,是你的代码。安全责任也在你的代码——模型填的表,检查过了再执行。理解了这八步和四方分工,下一集就可以动手写第一份工具定义了。
课后练习:用自己的话写出这八步,标出哪几步是模型做的。
相关推荐

OpenAI 11月30日关停Agent Builder等三项服务,开发者需紧急迁移
OpenAI 将于 11 月 30 日关停 Agent Builder、evals 仪表盘和可复用提示三项开发者功能,evals 已转为只读。本文梳理受影响范围、OpenAI 官方给出的迁移路径(Agent SDK、PromptFu、自有代码)以及开发者本周应完成的导出与重建动作。

RankSpot:按次付费的SEO与AI搜索执行层,让Agent替你写文、发布、换外链
RankSpot 是面向 AI Agent 的 SEO 与 AI 搜索执行层,通过 MCP 接入 Claude 或 ChatGPT,让 Agent 完成写文、发布和外链获取。按次付费,每篇文章 3 美元,读数据免费,支持 100 多种语言。

Appxiom:给AI编程助手装上生产环境上下文
Appxiom为AI编程Agent提供生产环境上下文,覆盖崩溃、卡顿、内存泄漏与失败的网络调用,支持Android、iOS、Flutter、KMP和Web,并通过Goal Friction Impact按业务目标排序Bug。