ODS
开源本地AI一体化服务器项目，支持Windows/Mac/Linux，集成本地LLM推理、聊天界面、语音交互、Agent工作流编排、RAG检索增强生成和图像生成等功能，使用Python编写
时间轴 (近 90 天)
对于配备 8GB 或 16GB 显存的主流消费级显卡，ODS 全站配置的重载任务无法流畅运行，但轻量 LLM 对话与基础图像生成仍可行，选择仅核心组件部署更务实
ODS 内置文本转语音（TTS）与语音转文本（STT）能力，并提供 OpenCode IDE 用于本地编码及扩展市场插件
ODS 内置名为 Perplexer 的组件，模仿 Perplexity 实现联网深度研究，由本地 LLM 负责摘要、联网检索依赖 Brave Search 等扩展插件
ODS 的部署基于 Docker 容器化技术，安装流程为安装 Docker Desktop、确认已安装 Git、运行官方命令下载安装发布版
ODS 集成 Llama 服务器作为基础 LLM 对话界面，支持选择模型、查看参数并配置 MCP 服务器扩展能力
ODS 内置 ComfyUI 作为图像与视频生成的主要入口，以独立容器运行并通过内部 API 接受调用
ODS 安装完成后仪表盘在 localhost:3001 打开，默认加载 Qwen 系列轻量级模型
ODS 全站配置首次部署约耗时一小时，核心耗时来自各组件镜像的网络下载
ODS 第三层级配置推荐 48GB 内存，在 32GB 内存机器上系统会提示不完全满足要求但仍可强制安装
ODS 安装提供全站配置（Full）、仅核心组件、自定义配置三种选择
还有 17 条时间轴事件
全部知识事实 (20)
ODS 集成了语音交互能力，支持语音转文本（STT）和文本转语音（TTS）
60%待验证ODS 全站配置首次部署约耗时一小时，核心耗时来自各组件镜像的网络下载
50%待验证ODS 集成 Llama 服务器作为基础 LLM 对话界面，支持选择模型、查看参数并配置 MCP 服务器扩展能力
50%待验证ODS 内置 ComfyUI 作为图像与视频生成的主要入口，以独立容器运行并通过内部 API 接受调用
50%待验证ODS 的部署基于 Docker 容器化技术，安装流程为安装 Docker Desktop、确认已安装 Git、运行官方命令下载安装发布版
50%待验证ODS 内置名为 Perplexer 的组件，模仿 Perplexity 实现联网深度研究，由本地 LLM 负责摘要、联网检索依赖 Brave Search 等扩展插件
50%待验证ODS 第三层级配置推荐 48GB 内存，在 32GB 内存机器上系统会提示不完全满足要求但仍可强制安装
50%待验证ODS 安装完成后仪表盘在 localhost:3001 打开，默认加载 Qwen 系列轻量级模型
50%待验证对于配备 8GB 或 16GB 显存的主流消费级显卡，ODS 全站配置的重载任务无法流畅运行，但轻量 LLM 对话与基础图像生成仍可行，选择仅核心组件部署更务实
50%待验证ODS 内置文本转语音（TTS）与语音转文本（STT）能力，并提供 OpenCode IDE 用于本地编码及扩展市场插件
50%待验证ODS 安装提供全站配置（Full）、仅核心组件、自定义配置三种选择
50%待验证ODS采用Apache 2.0许可，GitHub约有6300颗星，最近一次活跃更新在2026年9月10日
50%待验证ODS（Osmatic Deployment System）是一个完全本地化的AI技术栈，覆盖LLM推理、网页聊天界面、语音智能体、工作流、RAG、图像生成及隐私工具，通过一条命令在用户硬件上安装并串联这些组件
50%待验证ODS在Linux上支持NVIDIA、AMD及Intel Arc GPU
50%待验证ODS在Windows上通过WSL2支持NVIDIA和AMD，在macOS上原生支持Apple Silicon（走Metal）
50%待验证在Linux上Docker默认把Llama服务器装在localhost:11434，Windows路径使用8080端口，OpenWebUI统一保持在localhost:3000
50%待验证ODS的V6.0是当前稳定版本，主分支更新很快适用于活跃开发，官方建议生产环境应锁定带标签的发布版或经过审计的提交
50%待验证本地部署并非零成本，是把云账单换成了电费、硬件和时间，没有像样的GPU推理只能跑在CPU上速度会很慢
50%待验证Osmantic/ODS 是一个开源项目，旨在将 PC、Mac 或 Linux 主机变成功能完整的本地AI服务器
50%待验证运行较大参数模型和图像生成时，ODS 对显卡显存和内存有明确要求
50%