共 41 篇相关文章

详解Spring AI与Ollama集成方案,在本地免费运行Llama、Gemma等开源大模型。涵盖环境搭建、依赖配置、代码实战,仅需换依赖和配置即可从OpenAI无缝切换到本地推理。
教程攻略详解Ollama本地部署大语言模型的完整教程,支持DeepSeek、Qwen、Kimi-K2.5等主流模型。17万Star开源项目,一键安装即可在本地运行LLM,保护数据隐私,零API成本。
产品体验
一位开发者取消商业AI代码审查订阅,自建本地运行的免费替代工具。本文解析本地AI代码审查的隐私优势、成本控制策略,以及基于开源大模型搭建本地代码审查工具的可行性与权衡。

深度解析Pentagraph推出的4199美元Pandroid机器人、腾讯WorldClaw一句话生成可编辑3D世界技术,以及99美元ESP32口袋AI终端,探讨AI技术低成本化与普惠化趋势。

详细实测Buzz Shared Compute共享算力功能,基于MeshLM开源项目实现社区成员间点对点借用闲置电脑运行AI Agent,无需API密钥,附完整配置教程及避坑指南。

深度解析阿里巴巴通义千问Qwen3系列最新动态,探讨其在多模态视觉理解、中文能力、开源生态等方面的核心优势,以及对开发者和行业的深远影响。

深入解析如何在Mac上仅用4.3GB内存运行80B参数大模型的技术原理,涵盖超低比特量化、稀疏化、内存映射等关键技术,探讨本地大模型部署对隐私保护和边缘AI的深远意义。

用29GB内存运行Kimi K3大模型,速度仅0.5 tok/s。深入分析极致量化技术原理、性能代价,以及本地大模型部署的不可能三角与现实启示。

详解通过Ollama本地运行Claude Code时遇到的API报错、输出token上限、模型卡死等常见问题,提供模型选择、参数调优及替代工具推荐等实用解决方案。

OpenWork是Claude Cowork的开源替代方案,基于opencode构建,采用TypeScript开发,已获17000+ GitHub Stars。支持数据私有化部署、模型灵活切换和深度定制,适合追求可控AI协作能力的团队和开发者。

Kimi K3 模型正式登陆 Ollama Cloud,被标注为「超高用量」类别。本文解析 Kimi K3 的免费调用额度、云端推理体验、技术优势,以及开发者如何通过 Ollama 统一接口无缝调用这款高性能大语言模型。

Ollama上架Kimi 3模型却要求用户额外按量付费,打破了此前订阅套餐覆盖所有开源模型的预期,引发社区激烈讨论。本文分析争议始末、开源权重与免费使用的区别,以及AI服务定价分层的趋势。
Relm:让本地大模型成为R语言原生对象的开源工具
Relm将本地大语言模型封装为R语言原生对象,支持本地推理、数据隐私保护与可解释性分析。本文深度解析其核心设计理念、差异化亮点及适用场景,为R语言数据科学家提供LLM集成新思路。

苹果芯片部门高管公开解析Mac Mini在AI开发者中需求激增的原因:统一内存架构突破显存瓶颈、优异能效比支持长时间本地部署,结合苹果端侧AI战略,Mac Mini正成为本地大模型推理的热门选择。

本地大模型工具Ollama完成6500万美元B轮融资,累计融资8800万美元。900万开发者在用,85%财富500强企业内部已部署。本文深度解析企业青睐本地大模型的核心原因:数据合规、Agent降本、开源生态三大驱动力。

三星芯片部门单年利润预计超过过去40年总和,季度利润同比暴增19倍,超越英伟达成全球最赚钱公司。AI数据中心疯狂抢占HBM与DRAM产能,导致DDR5内存、SSD价格持续攀升,本地大模型玩家硬件成本大幅抬高。

详解Dify智能体本地部署全流程:从Docker环境配置、Ollama+DeepSeek本地大模型接入,到工作流编排与RAG知识库搭建,帮助开发者快速构建私有化AI应用。

AMD正式发布Ryzen AI Halo本地AI开发套件,售价约4000美元,搭载128GB统一内存,支持本地运行70B大模型。本文深度解析其配置亮点、定价策略及在本地AI算力市场的竞争格局,并梳理Anthropic大模型可解释性研究等科技要闻。

系统介绍如何在本地设备上部署运行开源大语言模型,涵盖硬件显存要求、量化技术原理、Ollama/LM Studio等主流工具链推荐,以及Llama、Qwen等模型选型建议,帮助开发者摆脱云端API依赖。