#GPTQ
共 294 篇相关文章
科技前沿·10 分钟
Claude额度暴降20倍，GLM 4.6能否成为最佳平替？
Anthropic大幅削减Claude Max套餐Opus额度，开发者纷纷出走。GLM 4.6以十分之一API价格、20万上下文窗口和开放权重优势强势入局，本文从定价、性能、开发体验三个维度详细对比，帮你找到最具性价比的AI编程工具。
阅读全文 →
教程攻略·7 分钟
Gemma 4部署DGX Spark实战：本地AI超算+开源大模型全解析
深度解析Google Gemma 4模型在NVIDIA DGX Spark上的部署方案。涵盖DGX Spark硬件架构、Gemma 4技术亮点、本地AI部署优势及开发者实践指南，助你掌握桌面级AI超算的最新玩法。
阅读全文 →
产品体验·6 分钟
localOCR：本地部署的开源OCR方案，支持Gemma-4等视觉模型
localOCR是一款基于Gemma-4、Llama 3.2等视觉语言模型的本地OCR开源工具，支持离线运行，保障数据隐私。本文详解其技术架构、多模型支持、适用场景及相比传统OCR的核心优势。
阅读全文 →
科技前沿·6 分钟
Kimi K2官方验证工具K2-Vendor-Verifier：一键检测API供应商模型精度
Moonshot AI开源K2-Vendor-Verifier工具，专门验证第三方Kimi K2 API供应商的推理精度。本文详解该工具的核心功能、技术实现思路及对开发者选型的实际价值，帮助你避开过度量化、模型替换等API市场隐患。
阅读全文 →
产品体验·8 分钟
awesome-LLM-resources：GitHub 8K Star最全大语言模型学习资源库解析
深度解析GitHub万星项目awesome-LLM-resources，涵盖多模态、AI Agent、MCP协议、模型训练推理、辅助编程等LLM核心方向，为AI从业者提供一站式学习资源导航与使用指南。
阅读全文 →
前沿研究·9 分钟
SVDQuant：4-bit量化让扩散模型在消费级GPU上高效运行
SVDQuant是ICLR 2025 Spotlight论文，通过低秩分解吸收异常值实现扩散模型4-bit量化，显存降低75%。开源项目Nunchaku获3800+ Stars，让FLUX等大型图像生成模型在RTX 4060等中端显卡上流畅推理。
阅读全文 →
产品体验·6 分钟
灵雀AI Agent框架：私有化部署的自主可控方案
灵雀（lingque）是一款基于Python的开源AI Agent框架，支持完全私有化部署，数据不出域。本文深入分析其技术特点、适用场景及与LangChain等框架的差异化优势。
阅读全文 →
科技前沿·8 分钟
Kimi-K2.5开源：月之暗面最强模型来了，GitHub星标飙升
月之暗面正式开源旗舰模型Kimi-K2.5，GitHub星标突破1900。本文解读Kimi-K2.5的战略意义、技术生态、与DeepSeek和Qwen的竞争格局，以及开发者如何快速上手这款国产开源大模型。
阅读全文 →
教程攻略·7 分钟
Ollama教程：一键本地部署DeepSeek、Qwen等大模型
详解Ollama本地运行大模型的完整指南，支持DeepSeek、Qwen、Kimi-K2.5等主流开源模型，涵盖安装使用、模型生态、隐私优势及企业私有化部署场景，GitHub 17万Star的热门开源工具。
阅读全文 →
产品体验·7 分钟
GitHub 8000+ Star：awesome-LLM-resources最全大语言模型资源库解析
深度解析GitHub万星项目awesome-LLM-resources，涵盖LLM模型训练、多模态生成、AI Agent、MCP协议、辅助编程等十余个方向，为开发者提供最全面的大语言模型学习资源地图。
阅读全文 →
教程攻略·8 分钟
Ollama教程：本地运行大模型的完整指南（2025最新）
详解Ollama本地部署大语言模型的完整教程，支持DeepSeek、Qwen、Kimi-K2.5等主流模型。17万Star开源项目，一键安装即可在本地运行LLM，保护数据隐私，零API成本。
阅读全文 →
教程攻略·7 分钟
Ollama教程：本地一键运行DeepSeek、Qwen等大模型完整指南
详解Ollama开源工具的安装使用方法，支持DeepSeek、Qwen、Kimi-K2.5、GLM-5等主流大模型本地部署，17万Star的最受欢迎本地大模型运行框架，助你实现离线AI推理与隐私保护。
阅读全文 →
科技前沿·8 分钟
Osaurus：macOS原生离线AI代理框架，5000+星标开源项目解析
深度解析Osaurus——专为macOS打造的原生AI代理框架，支持完全离线运行、持久化记忆、加密身份验证和任意模型接入。基于Swift和C构建，充分利用Apple Silicon性能，GitHub已获5100+星标。
阅读全文 →
产品体验·7 分钟
中文预训练模型资源库：覆盖LLM与多模态的5500+ Star开源项目
awesome-pretrained-chinese-nlp-models 是GitHub上5500+ Star的中文预训练模型索引项目，系统收录BERT、ChatGLM、Qwen等大语言模型及多模态模型，按任务、规模、领域分类，帮助开发者快速完成中文NLP模型选型。
阅读全文 →
产品体验·9 分钟
awesome-LLM-resources：GitHub 8000+ Star的LLM资源大全深度解析
深度解析GitHub万星项目awesome-LLM-resources，涵盖AI Agent、模型训练、MCP协议、多模态生成等LLM十大核心方向，为研究人员和开发者提供最全面的大语言模型资源索引指南。
阅读全文 →
产品体验·8 分钟
GitHub 8200星LLM资源库：覆盖训练推理Agent全链路
深度解析GitHub万星项目awesome-LLM-resources，涵盖LLM数据处理、模型训练、推理优化、Agent开发、多模态生成等全生命周期资源，中文友好，适合各阶段开发者快速定位所需工具与教程。
阅读全文 →
教程攻略·13 分钟
Hugging Face Transformers：16万星AI模型框架深度解析与实战指南
深入解析Hugging Face Transformers开源框架的核心特性、技术架构与生态系统。涵盖多框架支持、50万+预训练模型调用、全模态任务覆盖及快速上手代码示例，助你高效构建AI应用。
阅读全文 →
产品体验·11 分钟
Hugging Face Transformers：16万Star背后的技术架构与生态解析
深入解析Hugging Face Transformers开源框架，涵盖技术架构、四大模态支持、Pipeline API用法及与Hub生态整合。了解这个16万Star项目如何成为AI开发者必备工具，以及它在大模型时代的战略地位与未来方向。
阅读全文 →
教程攻略·8 分钟
Ollama教程：17万Star的本地大模型运行框架详解
深入解析Ollama本地大模型运行框架，支持DeepSeek、Qwen、Kimi-K2.5等主流模型一键部署。了解Ollama的安装使用、模型生态、技术架构及隐私优势，助你零门槛在本地运行大语言模型。
阅读全文 →
产品体验·13 分钟
awesome-LLM-resources：GitHub 8K Star最全大语言模型资源库解析
深度解析GitHub热门项目awesome-LLM-resources，涵盖大语言模型训练推理、Agent、MCP、多模态、小语言模型、o1推理等十余个核心方向，8200+ Star的中文LLM一站式资源导航。
阅读全文 →