#本地推理
共 312 篇相关文章
教程攻略·8 分钟
Ollama教程：17万Star的本地大模型运行框架详解
深入解析Ollama本地大模型运行框架，支持DeepSeek、Qwen、Kimi-K2.5等主流模型一键部署。了解Ollama的安装使用、模型生态、技术架构及隐私优势，助你零门槛在本地运行大语言模型。
阅读全文 →
产品体验·10 分钟
Tabby：开源自托管AI编程助手完整指南与深度评测
深度解析Tabby开源自托管AI编程助手，涵盖Rust高性能架构、多模型支持、仓库级代码理解等核心特性，对比GitHub Copilot等竞品，帮助开发者和企业选择适合的私有化AI编码方案。
阅读全文 →
教程攻略·15 分钟
Ollama教程：一条命令本地运行DeepSeek等大模型
Ollama是GitHub上17万Star的开源工具，支持DeepSeek、Qwen、Kimi-K2.5等主流大模型本地运行。本文详解Ollama的核心优势、支持模型、技术架构及数据隐私价值，帮你快速上手本地AI部署。
阅读全文 →
教程攻略·15 分钟
Ollama完全指南：一行命令本地运行DeepSeek等大模型
Ollama是GitHub 17万Star的开源工具，支持一行命令本地运行DeepSeek、Qwen、Kimi-K2.5等主流大模型。本文详解Ollama的模型生态、核心优势、应用场景及为何它成为本地LLM部署的事实标准。
阅读全文 →
产品体验·12 分钟
AnythingLLM评测：本地部署开源AI知识库平台完全指南
深度评测AnythingLLM开源AI平台，详解本地部署、RAG文档对话、多模型切换等核心功能。GitHub 59K+ Star项目如何实现隐私优先、零配置的AI体验？附与PrivateGPT、Open WebUI竞品对比。
阅读全文 →
教程攻略·12 分钟
Ollama教程：一行命令本地运行DeepSeek等大模型
详解Ollama本地部署大模型的完整指南，支持DeepSeek、Qwen、Gemma等主流开源模型。了解Ollama的安装使用、核心优势、技术架构及适用场景，零API费用实现数据隐私保护。
阅读全文 →
产品体验·9 分钟
Chatbox：近4万Star的开源AI客户端，支持多模型统一管理
深度解析开源AI客户端Chatbox的核心功能与技术架构。支持GPT、Claude、Ollama等多模型接入，数据本地存储保护隐私，跨平台覆盖Windows/macOS/Linux，GitHub近4万Star的标杆级AI桌面工具。
阅读全文 →
产品体验·9 分钟
AnythingLLM完全指南：本地部署的隐私AI知识库工具
深度解析AnythingLLM这款GitHub 59K+ Star的开源AI工具，支持本地大模型运行、RAG私有知识库问答、零配置开箱即用。详解核心特性、适用场景与技术架构，助你搭建隐私优先的AI生产力平台。
阅读全文 →
教程攻略·8 分钟
Ollama教程：一键本地运行DeepSeek等大模型的开源神器
详解Ollama本地部署大模型的完整指南。支持DeepSeek、Qwen、Gemma等主流LLM，17万Star开源项目，零配置开箱即用，保障数据隐私，告别API按量付费。
阅读全文 →
产品体验·14 分钟
LibreChat：一个界面接入所有AI模型的开源聊天平台
深度解析LibreChat开源项目，支持GPT-5、Claude、Gemini、DeepSeek等多模型统一接入，内置Agents、MCP协议、代码解释器等功能，Docker一键部署，适合个人和企业自托管的ChatGPT替代方案。
阅读全文 →
教程攻略·7 分钟
Unsloth本地大模型微调工具：6万星标的Web UI如何让消费级显卡跑起Gemma 4、Qwen3.6和DeepSeek
深度解析Unsloth开源项目：通过Web UI实现本地大模型微调与推理，支持Gemma 4、Qwen3.6、DeepSeek等主流模型，显存降低70%，速度提升5倍。
阅读全文 →
教程攻略·4 分钟
Ollama本地部署大模型教程：17万星标开源工具支持DeepSeek、Qwen、Kimi等主流模型
Ollama是GitHub上17万星标的开源本地大模型部署工具，一行命令即可运行DeepSeek、Qwen、Kimi-K2.5、GLM-5等主流模型。本文详解Ollama的核心优势、支持模型及本地推理的深层意义。
阅读全文 →