AI Agent与基础LLM的核心区别：何时该用哪个

在构建AI应用时，一个绕不开的问题是：我到底该用AI Agent，还是基础的LLM调用？很多开发者习惯性地把两者混为一谈，结果要么用牛刀杀鸡，要么让简单任务陷入不必要的复杂循环。一位YouTube创作者在他的频道中分享了这个话题的实用解读，从工具调用、记忆机制到结构化输出，把两者的边界讲得相当清楚。

本质差异：工具、记忆与思考方式

基础LLM和AI Agent最直观的区别在于能力边界。基础LLM有一个模型，但没有工具访问权限，也没有记忆——你给它输入，它给你输出，一次交互就是一次交互。AI Agent则不同，它可以挂载各种工具，拥有记忆模块，用创作者的话说就是"它有大脑，有一切"。

更深层的差异在于思考过程。创作者指出，Agent的工作方式是"执行一个任务，回头审视它，再执行一遍"——这种迭代循环是基础LLM不具备的。也正因如此，在Agent的配置选项中会出现"maximum iteration"（最大迭代次数）这一参数，而基础LLM的调用链根本不涉及这个概念。

工具调用（Tool Calling / Function Calling）：指模型在生成回复时，能够输出一个结构化的「调用请求」，由外部程序实际执行该函数并把结果回传给模型。例如模型判断需要查询天气，就输出 get_weather(city="北京")，运行环境执行后再把结果喂回模型继续推理。基础 LLM 本身只会生成文本，无法自行访问外部世界；而 Agent 之所以「能挂载工具」，正是因为它内置了这套「生成调用请求—执行—回传结果」的循环。这是 Agent 与纯文本模型最根本的工程差别之一。

记忆机制（Memory）：LLM 本身是无状态的，每次调用都只看到当前传入的上下文，对话的历史并不会自动保留。所谓「记忆」通常由外层框架实现：把之前的对话或摘要拼接进新的 prompt（短期记忆），或写入向量数据库等外部存储、在需要时检索回来（长期记忆）。因此「让 AI 记住对话」并不是模型的能力，而是围绕模型搭建的存储与检索机制。

什么时候该用AI Agent

Agent的适用场景集中在复杂任务上。典型例子包括聊天机器人——需要连接外部工具、需要记住对话历史、需要多轮推理的任务。创作者强调，当你希望AI能够"记住对话"时，基础LLM就显得力不从心。

从工程视角看，Agent的价值在于编排能力。它能把多个工具调用串成一个流程，根据中间结果决定下一步动作。这种自主性在处理开放式问题时是优势，但在确定性任务中反而可能成为不稳定因素。

最大迭代次数（Maximum Iteration）：Agent 采用「思考—行动—观察」的循环，每一步都可能触发新的工具调用，若任务目标模糊或工具持续失败，循环可能无限进行下去，既耗时又消耗大量 token。maximum iteration 就是给这一循环设的上限，达到次数后强制停止并返回当前结果。它与基础 LLM 无关——单次输入输出的调用根本不存在「循环」概念。设置得过高可能浪费成本，过低则可能在任务尚未完成时被截断，是 Agent 调优中一个需要权衡的关键参数。

基础LLM的用武之地

基础LLM适合单任务场景：你传入数据，它处理数据，任务结束。不需要工具，不需要对话记忆，也不希望AI陷入循环。创作者提到一个很实用的工作流：当他需要结构化输出时，通常不会直接交给Agent，因为"Agent在结构化输出时经常不听话"。他的做法是先用Agent完成复杂处理，再把结果交给基础LLM来格式化成结构化输出。

这个经验值得注意：Agent的迭代特性让它擅长探索，但恰恰是这种"自由发挥"会让它在需要严格格式时偏离预期。

信息提取器：介于两者之间的第三选项

创作者还提到了一个容易被忽视的组件——信息提取器（Information Extractor）。它和基础LLM几乎是同一类东西，区别只在于用途。信息提取器的定位很明确：你给它信息，它按你指定的格式返回结构化结果。

你可以通过JSON示例或JSON Schema来定义输出结构，比如指定标题、描述、日期、地点等字段。创作者特别指出，当你需要把这些信息传给下游系统处理时，绝不应该让它们挤在一段连续文本里，结构化输出才是正确选择。

结构化输出与 JSON Schema：结构化输出指让模型返回严格符合预定义字段和类型的机器可读数据，而非自由文本。JSON Schema 是一种描述 JSON 数据结构的规范，可声明字段名、类型（字符串、日期、数组等）、是否必填及取值范围。配合信息提取器使用时，模型被约束为只能产出符合该 schema 的结果，下游程序即可直接解析字段，无需再做正则或人工清洗。把输出定义为 schema，比单纯给几个示例更可靠，因为约束更明确。

还有文本分类器

除了信息提取器，创作者还简单提到了文本分类器（Text Classifier）。如果你只是想把文本分个类，用这个专用组件就够了，没必要动用Agent或复杂的LLM链。

选型原则：匹配任务复杂度

综合来看，创作者给出的选型逻辑很朴素——取决于你在做什么。基础的信息提取、文本分类，用专用组件或基础LLM；需要工具调用、多轮对话、迭代推理的复杂场景，才轮到Agent出场。把Agent用在简单任务上不仅浪费资源，还会引入不必要的不确定性；反过来，让基础LLM去处理需要记忆和工具的任务，同样行不通。

这套划分方式没有太多理论包装，但胜在实操性强。对于正在搭建AI工作流的开发者来说，先想清楚任务是单步还是多步，需要不需要记忆和工具，基本就能做出正确选择。