#Ollama
共 109 篇相关文章

Ollama是什么?把免费AI大模型装进自己电脑
Ollama 不是大模型,而是本地运行 AI 模型的工具。本文讲清 Ollama 的定位、四步上手流程、本地 AI 的三大优势与硬件约束,并解释“免费”的真实含义,帮你判断它能否替代 ChatGPT 等云端服务。

Open WebUI实战:给本地大模型装个聊天界面
Open WebUI实战教程:为本地Ollama模型搭建网页聊天界面,分清8080网页服务与11434模型服务端口,完成安装、连接检查、聊天记录保存与重启验证,附分层排错思路。

Codex接本地模型:8G到24G显卡各能跑什么
把Codex和Claude Code接到本地模型,关键是一句减法:显存减模型文件大小,剩下留给上下文。本文按8G、12G、16G、24G四档显卡列出可跑模型、实测余量、Ollama接入四步法和四个常见卡点,并说明Claude Code官方不支持本地模型的限制。

Ollama决策模型实测:本地推理速度远超Claude
实测 Ollama 决策模型:0.8B 小模型在本地完成邮件分类与评分任务,速度比 Claude API 快两倍以上,还能在 Dell Pro Max 上做图像分类。本文整理部署步骤、速度对比数据与多模态实测结果。

SupplierSignal AI:开源供应商核验工具
SupplierSignal AI 是团队 Code Killers 开源的小卖家供应商核验工具,用 Gemma 开源模型与 Ollama 本地运行,自动比对供应商承诺、发票与实际收货记录,标记差异并生成报告,数据 local-first 不外传。

Ollama替代品实测:封装层比llama.cpp慢多少
实测 OLLama 与 llama.cpp 在同一模型文件上的性能差距,盘点 2026 年 Ollama 的八大替代方案:llama.cpp、LM Studio、vLLM、Jan、LocalAI、Docker Model Runner 与 MLX LM,并给出避免迁移两次的选型清单。

Ollama v0.40.5 发布:同步升级 llama.cpp 至 b11669
Ollama 发布 v0.40.5 版本,将内置推理引擎 llama.cpp 升级至 b11669。本文解析这次版本更新的内容、对本地大模型推理的影响以及升级建议。

Listing Writer:开源AI工具秒写Etsy与eBay商品列表
Listing Writer是一款基于Google开源模型Gemma 3和Ollama构建的免费AI工具,能根据产品名称和几条细节,在数秒内生成Etsy与eBay的商品标题、描述和13个搜索标签,无需付费API,数据可本地运行。

Ollama v0.40.5-rc0 发布:MLX 版本升级
Ollama 发布 v0.40.5-rc0 候选版本,本次更新为 MLX 后端版本升级(commit #18993),属于纯依赖更新,无新功能与 API 变更,Apple Silicon Mac 用户可关注后续正式版。

Ollama v0.40.4 预发布:llama.cpp 升级与 MLX 优化
Ollama 发布 v0.40.4 预发布版本,升级 llama.cpp 至 b11521 支持 EmbeddingGemma 2,优化服务端模型复用、MLX 状态管理及 Codex 集成。

本地票据整理神器:Gemma + Ollama 打造隐私优先的开源工具
Local Receipt Sorter 是一款完全本地运行的票据整理工具,基于 Gemma 视觉模型与 Ollama,实现票据识别、字段提取、异常检测与 CSV/Excel 导出,强调隐私保护与开源可定制。

Ollama v0.40.4-rc0 发布:MLX 版本升级意味着什么
Ollama 发布 v0.40.4-rc0 预发布版本,核心变更是 MLX 和 MLX-C 版本升级。本文分析这次更新对 Apple Silicon 用户本地推理性能的影响,以及是否值得升级。

Campus Flora Finder:离线优先的本地AI植物识别应用
Campus Flora Finder 是一款完全离线、隐私优先的 AI 植物识别应用,基于 Streamlit 与 Ollama 本地运行 llava、moondream 等开源视觉模型,无需联网即可识别植物并给出学名与生态信息。

Ollama v0.40.3 发布:跳过本地模型兼容性迁移
Ollama 发布 v0.40.3 版本,核心改动为服务端跳过本地模型兼容性迁移(PR #18908),提升启动稳定性。本文解读该补丁版本的改动内容、技术背景及升级建议。

Ollama核心架构拆解:三层协作与自定义模型实战
深入拆解Ollama核心架构:命令行、服务、引擎三层如何协作,模型如何存储,GGUF格式与量化档位怎么选,以及用Modelfile创建自定义模型和REST/OpenAI兼容接口的完整实战。

Ollama v0.40.2 预发布版发布:社区集成与服务端优化
Ollama 发布 v0.40.2 预发布版,新增 oxi 社区集成并优化服务端列表展示,隐藏重复项与降级守卫。本文解析本次更新内容及对本地 LLM 用户的实际意义。

AnswerUI:ChatGPT智能界面的开源替代,支持任意本地模型
开发者开源了 ChatGPT Intelligent UI 的替代方案 AnswerUI,支持 Ollama、Kimi、OpenRouter 等任意 OpenAI 兼容模型,可本地运行。回答以滑块、图表等交互界面呈现,一条命令即可启动,无遥测、重隐私。

Ollama决策模型实测:90毫秒做出带概率分布的判断
Ollama决策模型实测解析:不生成文本只做概率判断,平均90毫秒一次决策、本地零费用。详解Choice/Null/Score四种问题类型、Confidence正确用法、工具审核与基准数据,以及上生产前必须知道的六条约束。

