#MLX
共 63 篇相关文章
·14 分钟
Hansel：本地加密的AI工作记忆助手，自动记录你做过的一切
Hansel是一款面向Mac用户的AI记忆工具，通过自动捕捉工作轨迹并本地加密存储，帮助知识工作者快速检索过往上下文。本文详解其核心功能、隐私设计、竞品对比及使用建议。
阅读全文 →
·8 分钟
Capacity Desktop：免费本地运行的Lovable替代方案详细测评
Capacity Desktop是一款运行在Mac本地的免费AI应用生成器，支持自然语言生成真实应用，代码存储在本地并可同步GitHub。无需注册、无平台锁定，按AI实际成本计费。本文详细解析其与Lovable等云端工具的核心差异。
阅读全文 →
·16 分钟
Mac仅需4.3GB内存运行80B大模型：极限压缩技术解析
深入解析如何在Mac上仅用4.3GB内存运行80B参数大模型的技术原理，涵盖超低比特量化、稀疏化、内存映射等关键技术，探讨本地大模型部署对隐私保护和边缘AI的深远意义。
阅读全文 →
·17 分钟
Snapdown：Mac截图一键转Markdown的本地AI工具
Snapdown是一款Mac端本地AI工具，支持将屏幕截图一键转换为结构化Markdown文本，保留标题层级、表格和列表格式。基于Apple Silicon本地处理，无需联网，保护隐私。适合开发者、技术写作者等Markdown重度用户。
阅读全文 →
·16 分钟
Mitra：开源桌面萌宠，专注陪伴与隐私保护兼得
Mitra 是一款开源桌面伴侣应用，以可爱动画角色陪伴工作，具备智能反应、健康提醒功能，采用零追踪本地优先架构保护隐私，轻量设计不占资源，支持社区定制扩展。
阅读全文 →
·13 分钟
Paste Drops：AI桌面吉祥物帮你把怒气消息变得体面
Paste Drops是一款免费AI情绪管理工具，通过桌面吉祥物Cyclops帮你改写愤怒消息，提供理性、小心机、劝退三种语气改写力度，支持多种口音朗读，无需注册、不存储数据，防止冲动发言毁掉人际关系。
阅读全文 →
·12 分钟
Tomte：专为Gemma打造的免费本地AI运行框架
Tomte是一款专为Apple Silicon优化的Gemma模型本地运行框架，免费开箱即用，提供高速推理体验。本文详解其核心功能、性能优势及与ChatGPT的对比，帮助Mac用户实现隐私安全的本地AI部署。
阅读全文 →
·13 分钟
24GB Mac Mini本地跑大模型：模型选型与速度优化指南
24GB内存Mac Mini运行本地大模型太慢？本文分析14B模型在Mac Mini上慢的原因，推荐适合Home Assistant等场景的3B-8B模型选型方案，并提供Ollama推理速度优化的实用建议。
阅读全文 →
·16 分钟
PyTorch vs TensorFlow：初学者该如何选择深度学习框架
深度学习初学者应该选PyTorch还是TensorFlow？本文从研究趋势、生态系统、部署能力等角度全面对比两大框架，并给出切换时机和实用学习路线建议。
阅读全文 →
·14 分钟
ARYA：从零打造能操控真实应用的语音AI助手
开发者打造的语音AI助手ARYA，能操控WhatsApp、Spotify等真实应用，具备向量记忆功能。深入解析其技术实现路径、AI Agent趋势及个人开发者构建智能体的机遇与挑战。
阅读全文 →
·7 分钟
Speech To Markdown：本地AI语音转结构化Markdown笔记工具
Speech To Markdown是一款免费macOS/iOS应用，通过本地大模型将语音实时转换为结构化Markdown笔记。全程离线运行，无需API密钥，支持全局快捷键听写，适合重度笔记用户、开发者及注重隐私的专业人士。
阅读全文 →
·7 分钟
Qwen Scribe：Apple Silicon本地语音转写工具深度解析
Qwen Scribe是一款专为Apple Silicon优化的本地语音转写与听写工具，基于通义千问模型实现完全离线运行。本文详解其技术特点、隐私优势及与Whisper等同类工具的对比。
阅读全文 →
·6 分钟
逆向工程苹果ANE：开源项目实现神经引擎设备端训练
深度解析GitHub热门项目maderix/ANE，通过逆向工程苹果私有API实现在Apple Neural Engine上训练神经网络，探讨其技术原理、能效优势、合规风险及对设备端AI训练的深远意义。
阅读全文 →
·11 分钟
Colibri：让7440亿参数大模型跑在普通笔记本上
Colibri开源项目通过MoE冷热分离架构和4-bit量化，实现在消费级硬件上运行GLM 5.2等千亿参数大模型。本文详解其三级内存架构、专家按需加载和投机解码等核心技术原理。
阅读全文 →
·9 分钟
苹果芯片LLM推理速度实测：Apple Silicon本地大模型性能全解析
深度解析Apple Silicon芯片本地LLM推理速度实测数据，涵盖M系列芯片内存带宽、模型量化精度、MLX框架优化等关键因素，为Mac本地部署大模型提供选购与配置参考。
阅读全文 →
·11 分钟
Kimi K3开源大模型：蒸馏才是真正的机会所在
Kimi K3作为当前最强开源大模型正式发布，性能逼近闭源前沿模型。本文深度解析其无护栏特性、蒸馏浪潮的战略价值、视觉质量优势，以及AI市场泡沫与修正信号，帮助开发者和研究者把握本地AI部署的核心机遇。
阅读全文 →
·13 分钟
用 Ollama 跑本地模型接入 Claude Code，AI 成本降低 99%
通过 Ollama 开源方案，将 Claude Code 等 AI 编程工具指向本地运行的开源模型，解锁 DeepSeek、Qwen3、Gemma 等数百个模型，在保持原有工作流不变的前提下，将 API 使用成本降至接近于零。本文详解配置方法、硬件要求与竞品对比。
阅读全文 →
·14 分钟
Qwen3深度解析：开源混合推理大模型的全面进化
阿里千问第五代模型Qwen3全面解析：6款Dense与MoE架构模型覆盖0.6B至235B，全球首款开源混合推理模型，旗舰235B性能追平Gemini 2.5 Pro，开发者与企业部署的完整参考指南。
阅读全文 →
·9 分钟
单张RTX 3090本地跑Qwen3.6 27B：性能媲美云端的完整指南
一张二手RTX 3090，一个16.8GB的GGUF文件，Qwen3.6 27B即可本地离线运行。SWE-bench得分77分媲美Claude Sonnet，MTP技术让推理速度提升至59 token/s。无订阅、无云端、数据不出门，本地AI编程助手完整部署指南。
阅读全文 →
·11 分钟
苹果M7 Ultra芯片曝光：1.5TB统一内存能否重塑本地AI推理格局
Reddit社区曝光苹果M7 Ultra芯片规格，最高1.5TB统一内存或支持本地运行所有主流开源大模型。本文深度解析其技术架构、定价争议、内存带宽瓶颈及苹果生态锁定问题，探讨这款芯片对本地大模型部署的实际意义。
阅读全文 →