#本地部署LLM

共 5 篇相关文章

详解如何用AMD RX 7800 XT 16GB显存本地部署大语言模型驱动量化交易机器人，涵盖ROCm生态现状、7B-14B模型推荐（Qwen2.5、Llama 3.1）、Ollama/LM Studio部署方案及系统架构设计。

Ollama Max付费用户订阅两周后账户突遭403封停，申诉三天无回复。本文分析403错误可能原因、客户支持缺位问题，并提供多渠道申诉和退款保护的实用建议。

本地编程Agent实战：用开源模型替代Claude订阅的完整指南

本文深度解析本地编程Agent的核心概念、搭建优势与现实挑战，对比Claude Code等商业方案，帮助开发者用开放权重模型实现零订阅费、数据本地化的AI编程工作流。

深度解析AI驱动科研全流程方法论，涵盖LLM模型选型、Python数据分析自动化、Zotero文献管理、Overleaf论文写作、本地LLM部署及N8N自动化工作流搭建，助你从AI聊天升级为AI做科研。

IBM发布Granite 4.1系列开源大模型（Apache 2.0），Unsloth提供21种GGUF量化版本。Simon Willison用鹈鹕SVG测试不同量化级别，发现3B模型在SVG生成上表现一致——都很差，揭示了模型选型的关键启示。