Ollama+DeepSeek+Dify本地部署搭建AI智能体全流程

想在本地搭建一个真正能干活的AI智能体，而不只是一个会聊天的机器人？本文基于B站UP主「固化科技」的实操教程，梳理在Windows环境下用Ollama部署DeepSeek大模型，再结合开源平台Dify搭建企业级旅行助手智能体的完整路径。从概念到落地，一步步讲清楚。

智能体到底是什么

理解智能体（Agent），最直观的类比是钢铁侠里的贾维斯：你发出一个指令，它能把指令拆解、调用工具、最终达成目标。它的本质是「能够感知环境、进行决策、执行动作的智能实体」。

教程作者给出了一个很有启发的框架——把智能体理解为对人类行为的数字映射。人看到阴沉的天空（感知），判断可能下雨（决策），于是起身去拿伞（行动），事后记住这件事（记忆）。智能体正是把人的感知、决策、行动、记忆四个模块抽象成机器可执行的流程。

智能体体系

在这个体系里，大模型扮演的是最关键的「大脑」角色。过去的机器学习做的是分析式决策，而今天的大模型能做生成式决策，还能创造内容。正是大模型本身的成熟，才让智能体从概念走向了可落地的应用。

智能体的四个核心组件

按照OpenAI工程师提出的经典框架，一个完整的智能体由四部分组成：

Planning（规划）：对复杂问题进行分析和拆解，拆成一二三四步，通常靠提示词和思维链实现
Memory（记忆）：存储交互过程中的信息，分短期与长期记忆
Tools（工具）：日历、计算器、代码解释器、搜索、天气API等，智能体根据场景选择调用
Action（行动）：针对拆解后的子任务执行具体动作

以「什么值得买」的购物助手小值为例：用户输入「想换个5000元以内的手机」，智能体理解需求、整理全网资料、给出带推荐的参考，相当于把线下导购搬到了线上。医疗问诊、金融分析、钉钉助手等也都是成熟的智能体应用场景。

思维链（Chain of Thought，CoT）是让大模型在给出最终答案之前，先逐步输出推理过程的提示技术。研究发现，当模型被要求"一步一步思考"时，复杂任务的准确率会显著提升。DeepSeek^广告-R1正是内置了这种推理机制——它在回答前会先进行一段"思考"，再给出结论，因此在规划（Planning）环节表现比普通对话模型更稳定。ReAct（Reasoning + Acting）则是智能体领域另一个常见框架，让模型在推理和调用工具之间交替循环：先"想"下一步要做什么，再"做"，再根据结果继续"想"，直到任务完成。这种模式特别适合需要多轮工具调用的复杂任务，比如旅行方案中依次查询天气、查景点开放时间、计算交通费用等。

为什么选择 Dify

市面上的智能体平台不少——文心智能体平台、字节的Coze、腾讯元器等，大多主打零代码构建，差异性不大，更像是面向C端的「App Store」生态。

Dify平台介绍

Dify的定位有所不同。它是一个开源的大模型应用开发平台，融合了后端即服务（BaaS）与LLMOps理念，让非技术人员也能参与AI应用的定义和数据运营。更关键的是它提供社区版，支持本地化部署——这意味着企业可以围绕自己的数据和大模型能力，在内网环境搭建知识库、构建专属智能体。

一句话总结两者的区别：Coze这类平台适合个人玩Agent，而Dify更适合企业级应用落地。

LLMOps（Large Language Model Operations）是借鉴DevOps理念、专门针对大模型应用的工程化运营体系，涵盖模型版本管理、提示词迭代、日志监控、效果评估等全生命周期管理。BaaS（Backend as a Service）则是指把后端基础能力——数据库、身份验证、文件存储等——以API形式直接提供给开发者，省去自建后端的成本。Dify将两者结合，意味着开发者既能获得开箱即用的后端基础设施，又能对大模型应用进行持续迭代和监控，而不必从零搭建整套工程体系。RAG（Retrieval-Augmented Generation，检索增强生成）是Dify知识库功能的底层原理：用户上传的文档被切片、向量化并存入数据库，提问时系统先检索出相关片段，再将其作为上下文拼入提示词，从而让模型能够"引用"私有知识库中的内容，避免产生幻觉。

环境准备与部署流程

教程演示的环境配置如下，建议严格对齐以减少踩坑：

操作系统：Windows 11
运行环境：Docker
大模型部署：Ollama + DeepSeek-R1
Dify：开源社区版 0.15.3
硬件最低要求：CPU ≥ 2核，内存 ≥ 4GB

第一步：安装 Docker

从 docker.com 下载 Windows 版本（AMD64），双击安装。过程中需要开启 WSL 或 Hyper-V 虚拟化支持，安装完成后重启。首次运行会提示更新 WSL（适用于 Linux 的 Windows 子系统），回车更新即可。

提醒：如果在 VM 虚拟机环境下部署，可能遇到虚拟化相关问题，需要在 BIOS 中开启虚拟化、启用 Hyper-V 等，这部分教程未展开，建议自行搜索解决方案。

WSL（Windows Subsystem for Linux）是微软官方提供的兼容层，允许在Windows上直接运行Linux二进制程序，无需虚拟机。Docker Desktop在Windows上依赖WSL 2或Hyper-V来创建轻量级Linux容器环境——容器本质上是在Linux内核之上运行的隔离进程，因此Windows必须先具备Linux运行能力。Hyper-V是Windows内置的硬件级虚拟化平台，而WSL 2则通过高度优化的轻量级虚拟机实现更低的资源占用和更快的文件I/O。两者选其一即可，现代Windows 11环境下推荐优先使用WSL 2。如果宿主机本身就是虚拟机（如VMware），则需要在VMware设置中勾选"虚拟化Intel VT-x"选项，并在Windows的"启用或关闭Windows功能"中手动开启Hyper-V，否则Docker Desktop将无法正常启动容器。

第二步：部署 Dify

从 GitHub 的 Dify 源码库下载 release 0.15.3 的源码压缩包（tar.gz 或 zip 均可），解压到纯英文路径下——路径带中文极易引发莫名其妙的报错。

下载Dify源码

进入 docker 目录后，先复制环境配置文件：

cp .env.example .env

由于 Windows 不支持 cp 命令，直接手动复制 .env.example 并重命名为 .env 即可。然后执行：

docker compose up -d

这里几乎每个人都会遇到镜像拉取失败的问题，原因是默认镜像地址访问不了。解决办法：打开 Docker Desktop → Settings → Docker Engine，在 daemon.json 中添加国内开源镜像源（registry-mirrors），Apply & Restart 后重新执行命令。

下载的镜像中，Worker、API、Web 属于 Dify 业务服务，nginx、Sandbox、SSRF、DB、Redis 属于支撑运行的基础组件。全部启动后用 docker compose ps 检查，每个容器都是 up 状态即正常。

第三步：访问并初始化

浏览器访问 http://localhost/install 进行初始化并设置管理员账号。若 Dify 部署在服务器上，把 localhost 换成服务器 IP 即可。

连接本地模型与搭建智能体

配置 Ollama 模型

Ollama 的安装非常简单，从 ollama.com 下载 Windows 版双击安装。运行模型用 ollama run deepseek-r1，首次会下载约 4.7GB 的 7B 模型，ollama list 可查看已下载模型。

连接模型报错处理

在 Dify 中进入「设置 → 模型供应商」，选择 Ollama 添加模型。基础 URL 填 http://localhost:11434（Dify 在容器内访问需用完整地址），模型名称填 deepseek-r1，对话类型保存即可。

常见报错有两类：一是地址写不完整，二是模型名称拼写错误（如漏掉 -r1）。如果 Ollama 部署在其他服务器，还需设置 OLLAMA_HOST 环境变量开放外部访问并重启应用。遇到问题直接把报错复制到搜索引擎，基本都能找到答案。

编排旅行助手智能体

点击「创建空白应用」，选择 Agent 类型，命名「旅行助手」。核心编排项包括：

提示词：定义角色与行为，复杂任务靠思维链拆解（对应 Planning）
变量：如需通过 API 把上下文传入智能体，可添加文本/段落/数字变量
上下文（知识库）：把过往旅行方案和经验填充进来，让回答更专业（对应 RAG）
工具：大模型本身不具备天气查询能力，集成天气工具后，设计方案时就能调用并获取实时信息（对应 Tool + Action）

发布时还可设置 Agent 的推理模式（如 ReAct、思维链、子任务拆解等）。测试输入「我在上海想去东京旅行七天，帮我设计一个旅行方案」，DeepSeek 会先思考再输出。

需要注意：本地 7B 模型推理能力有限，输出可能达不到预期。想要更聪明的效果，要么配更好的硬件跑大参数模型，要么直接接入第三方模型 API——token 消耗其实很便宜，是性价比更高的选择。

小结

这套 Ollama + DeepSeek + Dify 的组合，本质上提供了一条数据不出本地、企业可控的智能体搭建路径。Ollama 负责本地跑模型，Dify 负责应用层编排与知识库管理，DeepSeek-R1 提供带推理能力的决策内核。对于想在内网环境构建专属知识库或行业智能体的团队，这是一个门槛不高、可快速验证的起点。真正的挑战不在部署，而在后续的提示词设计、知识库质量与工具编排——这才是决定智能体「聪不聪明」的关键。