ODS
开源本地AI一体化服务器项目，支持Windows/Mac/Linux，集成本地LLM推理、聊天界面、语音交互、Agent工作流编排、RAG检索增强生成和图像生成等功能，使用Python编写
Timeline (last 90 days)
ODS（Osmatic Deployment System）是一个完全本地化的AI技术栈，覆盖LLM推理、网页聊天界面、语音智能体、工作流、RAG、图像生成及隐私工具，通过一条命令在用户硬件上安装并串联这些组件
ODS在Linux上支持NVIDIA、AMD及Intel Arc GPU
ODS在Windows上通过WSL2支持NVIDIA和AMD，在macOS上原生支持Apple Silicon（走Metal）
在Linux上Docker默认把Llama服务器装在localhost:11434，Windows路径使用8080端口，OpenWebUI统一保持在localhost:3000
ODS采用Apache 2.0许可，GitHub约有6300颗星，最近一次活跃更新在2026年9月10日
ODS的V6.0是当前稳定版本，主分支更新很快适用于活跃开发，官方建议生产环境应锁定带标签的发布版或经过审计的提交
本地部署并非零成本，是把云账单换成了电费、硬件和时间，没有像样的GPU推理只能跑在CPU上速度会很慢
ODS 内置 RAG（检索增强生成）能力，用户可导入文档和知识库让本地模型基于私有数据问答
Osmantic/ODS 是一个开源项目，旨在将 PC、Mac 或 Linux 主机变成功能完整的本地AI服务器
运行较大参数模型和图像生成时，ODS 对显卡显存和内存有明确要求
7 more timeline events
All Facts (15)
ODS 集成了语音交互能力，支持语音转文本（STT）和文本转语音（TTS）
60%UnverifiedODS在Linux上支持NVIDIA、AMD及Intel Arc GPU
50%UnverifiedODS在Windows上通过WSL2支持NVIDIA和AMD，在macOS上原生支持Apple Silicon（走Metal）
50%Unverified在Linux上Docker默认把Llama服务器装在localhost:11434，Windows路径使用8080端口，OpenWebUI统一保持在localhost:3000
50%UnverifiedODS（Osmatic Deployment System）是一个完全本地化的AI技术栈，覆盖LLM推理、网页聊天界面、语音智能体、工作流、RAG、图像生成及隐私工具，通过一条命令在用户硬件上安装并串联这些组件
50%UnverifiedODS的V6.0是当前稳定版本，主分支更新很快适用于活跃开发，官方建议生产环境应锁定带标签的发布版或经过审计的提交
50%Unverified本地部署并非零成本，是把云账单换成了电费、硬件和时间，没有像样的GPU推理只能跑在CPU上速度会很慢
50%UnverifiedODS采用Apache 2.0许可，GitHub约有6300颗星，最近一次活跃更新在2026年9月10日
50%Unverified运行较大参数模型和图像生成时，ODS 对显卡显存和内存有明确要求
50%UnverifiedODS 使用 Python 编写
50%UnverifiedODS 支持在本地加载并运行大语言模型，并配套提供开箱即用的 Chat UI 聊天界面
50%UnverifiedODS 提供 Agents（智能体）和 Workflows（工作流）功能，支持构建可自主规划、调用工具、多步执行的AI智能体
50%UnverifiedODS 内置 RAG（检索增强生成）能力，用户可导入文档和知识库让本地模型基于私有数据问答
50%UnverifiedODS 整合了图像生成（文生图）功能
50%UnverifiedOsmantic/ODS 是一个开源项目，旨在将 PC、Mac 或 Linux 主机变成功能完整的本地AI服务器
50%