#本地部署

共 242 篇相关文章

深度解析AnythingLLM开源项目：支持本地部署、隐私优先的一站式AI生产力工具。集成RAG检索增强生成、多模型切换、向量数据库，零配置开箱即用，GitHub 59K+ Star，是企业知识库和个人AI助手的理想选择。

Unsloth 是 GitHub 6.3万星标的开源大模型训练工具，支持 Gemma 4、Qwen3、DeepSeek 等主流模型的本地微调与部署。提供 Web UI 界面，显存占用降低50%，训练速度提升2-5倍，适合企业和个人开发者使用。