Dify本地部署实战：Docker+Ollama搭建企业智能体

为什么企业智能体需要Dify

企业想把自己的业务知识、内部流程和客户服务接入大模型，光有一个聊天窗口远远不够。你需要一套可以编排工作流、管理变量、挂载知识库的系统。Dify 正是面向这类需求的平台：它把大模型调用、提示词工程、RAG 检索和工具调用整合到一个可视化界面里，让非算法背景的开发者也能搭出可用的业务智能体。

据 B 站这套课程的开篇介绍，整套内容围绕 Dify 的本地部署展开，目标是把环境搭建到功能实现完整走一遍。课程明确提到会讲解 Dify 应用、Docker 使用、Ollama 本地大模型部署，以及云端连接大模型和本地搭建大模型两条路径。

本地部署的三件套：Docker、Ollama 与 Dify

本地部署 Dify 绕不开两个基础设施：容器运行时和模型运行时。课程把 Docker 定位为部署 Dify 的前置条件——因为 Dify 本身以容器化方式交付，没有 Docker 就无法在本地拉起服务。

Ollama 则承担本地大模型的角色。课程原话是“本地部署的 Dify，那你就要有本地的大模型”，因此用 Ollama 来部署模型，让整套系统在断网或数据不出内网的前提下也能运转。这套组合对数据敏感型企业尤其关键：业务数据、知识库文档和推理过程都留在自己的机器上。

容器化部署是指将应用及其依赖打包成标准化的镜像，在任何支持容器的环境中以一致的方式运行。Docker 是目前最主流的容器运行时，它通过镜像（Image）定义应用的文件系统与启动命令，通过容器（Container）隔离进程与资源。Dify 官方以 Docker Compose 方式分发部署配置，一条命令即可拉起 API 服务、Web 前端、数据库、向量库和缓存等组件。这种方式的优势在于环境一致性——开发机与服务器上行为相同，升级和回滚只需更换镜像标签，也便于把数据卷映射到宿主机实现持久化。

Ollama 是一个本地大模型运行与管理工具，提供命令行和 HTTP API，能自动下载模型权重、加载到内存或显存并对外提供兼容 OpenAI 风格的接口。它内置了模型量化——即把权重从 16 位浮点压缩到 4 位或 8 位整数等低精度格式，在几乎不损失效果的前提下大幅降低显存占用，使消费级显卡甚至纯 CPU 也能运行 7B 到 14B 参数级别的模型。Dify 通过配置 Ollama 的服务地址即可将其作为模型供应商接入，从而在不调用外部 API 的情况下完成推理。

课程覆盖的核心能力

课程内容从基础环境搭建延伸到功能实现，面向的是“想入门 Dify 或想学习这个工具”的人群。据课程介绍，核心模块包括：

• 工作流设计：把多步骤业务逻辑拆成可视化节点，串起模型调用与数据处理；
• 变量管理：在节点之间传递上下文，让智能体记住会话状态和业务参数；
• 大语言节点配置：控制模型选择、提示词和输出格式；
• RAG 原理与技术：把企业文档变成可检索的知识源，让模型回答有据可依。

这几项能力恰好对应企业智能体从“能聊”到“能干活”的关键跨越。工作流决定了智能体能执行多复杂的任务，RAG 决定了回答的专业度和准确性。

RAG（检索增强生成） 的基本流程是：将企业文档切分成若干文本块（Chunk），用嵌入模型把每个块转成向量并存入向量数据库；用户提问时，先把问题也转成向量，按相似度检索出最相关的若干块，再把这些块作为上下文拼进提示词交给大模型生成答案。Dify 的知识库模块封装了这一链路，支持文档上传、自动切分、嵌入与召回测试。切分粒度、块重叠长度、召回条数和相似度阈值都会显著影响最终回答质量，这也是同一份文档在不同配置下效果差异明显的原因。

云端与本地双路线

课程特别强调会同时讲清楚两条路线：怎么在云端连接大模型，以及怎么在本地搭建大模型。这个设计有现实意义——云端模型能力强、免维护，适合快速验证；本地模型数据可控、无调用成本，适合长期运行和敏感业务。企业往往需要在两者之间做权衡，甚至在同一套 Dify 里混合使用：简单任务走本地小模型，复杂推理走云端大模型。

适合谁学，以及需要注意什么

这套课程面向的是想动手搭建业务 AI 的开发者、运维和产品技术负责人。它的价值在于把 Dify、Docker、Ollama 三个工具串成一条可执行的路径，而不是孤立地讲某个工具的界面操作。

需要提醒的是，本地部署对机器资源有实际要求，模型规模越大，对显存和内存的占用越明显；RAG 的效果也高度依赖文档切分和检索配置，不是挂上知识库就自动准确。课程作为入门引导能帮你跑通流程，但真正落地到业务场景，还需要结合自己的数据做调优。