#本地模型

共 5 篇相关文章

SmallCoder是一款开源免费、专为本地开源模型优化的AI编程智能体，支持Ollama与LM Studio自动检测，零API成本离线运行。本文实测安装流程、计划与压缩机制，以及用大模型规划+小模型执行构建复杂项目的技巧。

开发者在M4 Max MacBook Pro上系统实测Qwen 27B本地模型，揭示tokens/sec之外被忽略的TTFT、提示处理与内存压力。MLX相比GGUF解码提速近4倍，128K上下文满载却需等待20分钟以上。

Otis是一款主打本地模型开箱即用的极简开源AI Agent工具。本文解析其设计理念、本地运行大模型的价值与挑战，以及极简路线对开发者的意义。

深度体验腾讯Marvis系统级AI助手，解析其本地知识库、语义搜索、隐私模式等核心功能，探讨Agent从工具到操作系统融合的产品演进方向。

Simon Willison在PyCon US 2026回顾LLM领域半年巨变：2025年11月编码代理跨越质量门槛，OpenClaw引爆个人AI助手热潮，Qwen等开源模型在笔记本上媲美前沿模型，AI编码格局正在被重塑。