#本地模型
共 423 篇相关文章
·12 分钟
vLLM部署与Unsloth微调实战：大模型推理服务全流程指南
详解vLLM大模型推理部署与Unsloth高效微调全流程，涵盖命令行一键部署、Python代码调用、AutoDL云服务器环境搭建、ModelScope国内加速等实操细节，以DeepSeek-OCR视觉模型为例演示完整链路。
阅读全文 →
·18 分钟
Windows本地部署Dify完整教程：WSL+Docker环境搭建与避坑指南
详解Windows系统本地部署Dify的完整流程，涵盖WSL启用、Docker Desktop安装配置国内镜像、.env文件生成、Ollama本地模型连接，以及数据库连接失败的解决方案。
阅读全文 →
·10 分钟
千问3.8 27B实测：一张显卡跑长程编程Agent
千问3.8 27B模型本地部署实测，4bit量化塞进24GB显卡，SGLang推理框架避坑指南，编程、长程任务、剧本拆解全面测试，SWE-bench Pro分数超越Claude Opus，个人可用的本地长程编程模型首次成为现实。
阅读全文 →
·15 分钟
Muse Glimmer 30B深度实测：Meta开源智能体模型本地部署全解析
深度实测Meta开源模型Muse Glimmer 30B的智能体代理能力、编程表现与本地部署方案。对比Qwen 3.6 27B，解析基准测试数据、硬件配置建议及适用场景，助你选择最适合的本地AI模型。
阅读全文 →
·14 分钟
AI测试落地实战：三大痛点与高性价比方案选型指南
深入分析AI在软件测试落地中的三大真实痛点——输出随机性、Token成本和执行效率，详解「AI生成+代码执行」的主流方案思路，帮助测试人员选对性价比最高的AI落地方案，应对行业变革。
阅读全文 →
·15 分钟
Dify工作流实战：从部署到发布的完整搭建指南
详解Dify低代码AI应用平台的完整实战路径，涵盖Docker部署、MySQL环境配置、大模型接入、五大应用类型（聊天助手/Agent/Workflow）详解及应用发布方式，助你从零搭建AI应用。
阅读全文 →
·14 分钟
Meta Muse Glimmer 30B深度评测：视觉理解能力惊艳，本地部署门槛低
Meta Muse Glimmer 30B实测评测，296亿参数稠密模型采用Apache 2.0开源协议，视觉理解能力出色，支持128K上下文，24GB显存即可本地运行。详解基准测试、多模态识别表现与局限。
阅读全文 →
·16 分钟
Attyn：把AI直接带到光标位置的Mac效率神器
Attyn 是一款 macOS 嵌入式AI工具，支持原地改写文本、实时语音转文字、屏幕内容问答和可视化解释四大功能，无需切换应用即可调用AI能力，支持自带API密钥和本地模型运行。
阅读全文 →
·16 分钟
Bullet编程智能体：比Claude Code快60%的AI编码工具深度解析
Bullet是一款主打速度的编程智能体，通过并行化处理、智能模型选择和定向代码搜索，实现比Claude Code和Codex快30%-60%的效率提升。SWE-bench得分95.8%位列前三，支持复用现有订阅和本地模型。
阅读全文 →
·13 分钟
AI编程Harness之战：同模型慢4倍背后的真相
深度解析AI编程工具Harness之争：CloudCode、OpenCode、Pi等编程外壳在速度、Token消耗、模型自由度和成本上的全面对比，揭示同一模型为何性能差异达4倍。
阅读全文 →
·11 分钟
Codex Linux桌面版实测：比CLI更适合初学者的AI编程助手
实测OpenAI Codex Linux桌面版，对比CLI体验优势：图形化界面降低学习门槛，无缝继承会话配置，支持本地模型接入与定时任务。详解安装方法、插件管理及本地模型性能表现。
阅读全文 →
·13 分钟
AI Agent内部构造解析：智能体如何思考决策与行动
深入剖析AI Agent的内部构造与工作原理，从感知-推理-行动闭环、工具调用、上下文管理到错误处理，揭示智能体的真实运作机制与工程挑战，帮助开发者理解Agent的能力边界。
阅读全文 →
·6 分钟
扣子Coze入门教程：一文搞懂智能体与工作流的关系
零基础学习扣子Coze智能体开发，用装修房子的比喻通俗讲解Agent和Workflow概念，并手把手演示如何在Coze平台创建第一个智能体和工作流。
阅读全文 →
·15 分钟
Meta开源Muse-Glimmer-30B模型：Agent能力全面对标Qwen，本地部署指南
Meta开源Muse-Glimmer-30B稠密模型，专为Agent场景设计，支持工具调用与多模态理解。采用Apache协议，部分指标超越Qwen-3 27B，本文详解其性能表现、硬件需求与部署方案。
阅读全文 →
·9 分钟
实测Meta开源Muse Glimmer：偏科的Agent专用模型
实测Meta开源30B模型Muse Glimmer，覆盖视觉识别、逻辑推理、全栈应用等场景。视觉能力出色但逻辑薄弱，D-Spark加速提速3倍却牺牲质量，128K上下文成最大硬伤。详细部署方案与横评数据。
阅读全文 →
·9 分钟
Claude Code默认自动模式、OpenAI延缓Astra、苹果国行接入千问
Anthropic宣布Claude Code默认启用自动模式，OpenAI因安全评估首次延缓前沿模型Astra发布，苹果国行Mac确认接入阿里千问。深度解析AI自动化深化、安全治理收紧与本地化合规三大趋势。
阅读全文 →
·9 分钟
Muse Glimmer本地实测：Meta开源30B多模态模型单卡可跑
Meta发布开源多模态模型Muse Glimmer，30B参数支持24GB显存单卡运行，Apache 2.0许可证。实测RTX 5090推测解码达233 tokens/秒，支持128K上下文、图像理解与前端代码生成，附带GGUF格式开箱即用。
阅读全文 →
·11 分钟
Meta开源Muse Glimmer：300亿参数智能体模型一张显卡即可本地运行
Meta开源Muse Glimmer，300亿参数智能体模型通过4-bit量化压缩至20GB以内，一张RTX 4090即可本地运行。支持多模态输入、12.8万Token上下文，D-Flash投机解码提速3倍，MCP工具调用得分75.5，是端侧Agent部署的实用之选。
阅读全文 →
