#k-quant
共 62 篇相关文章
·8 分钟
Apple Silicon虚拟机加速LLM推理实践指南
深入探讨如何在macOS虚拟机环境中利用Apple Silicon统一内存架构加速llama.cpp推理，涵盖Metal后端配置、内存分配、量化格式选择等优化策略，帮助开发者在虚拟化环境中实现接近裸机的LLM推理性能。
阅读全文 →
·14 分钟
中国大模型霸榜OpenRouter周排行榜背后的原因分析
中国大模型集体登顶OpenRouter周使用量排行榜，DeepSeek、Qwen、Kimi等开源模型凭借极致性价比和技术突破赢得全球开发者青睐，深度解析霸榜背后的原因与行业启示。
阅读全文 →
·15 分钟
KV缓存量化实测：413组对比揭示KVarN 6-bit反超q8_0
基于413组配置的KV缓存量化基准测试，对比KVarN方差归一化与传统量化方案在Qwen和Gemma模型上的表现。kvarn6+精度尾部以更低显存超越q8_0，附完整推荐阶梯与实践建议。
阅读全文 →
·15 分钟
Unsloth发布DeepSeek V4 Flash量化版：162GB实现无损运行
Unsloth团队发布DeepSeek V4 Flash 0731的UD动态量化版本，提供从162GB无损到83GB极限压缩共六个版本。采用MXFP4+BF16混合精度方案，为本地部署大模型提供完整精度梯度选择。
阅读全文 →
·18 分钟
本地部署AI模型入门：从Hugging Face下载到llama.cpp运行全流程
面向零基础开发者的本地AI模型部署指南，涵盖从Hugging Face安全下载模型、运行推理、导出GGUF格式并通过llama.cpp高性能本地运行的完整流程，附开源Python脚本实践。
阅读全文 →
·15 分钟
Unsloth联手Thinking Machines：1-bit动态量化压缩86%，270GB跑多模态大模型
Unsloth与Thinking Machines合作推出Inkling模型动态1-bit GGUF量化版本，将模型从1.9TB压缩至270GB，缩减86%且保留74.2%准确率，并支持视觉和音频多模态能力，大幅降低本地部署门槛。
阅读全文 →
·17 分钟
Q8_K_XL与MXFP4命名之争：FP8≠Q8_0的量化真相
深入解析大模型量化格式Q8_K_XL与MXFP4的命名差异，剖析FP8与Q8_0的本质区别，澄清"8-bit即无损"的常见误解，帮助本地部署用户选对量化版本。
阅读全文 →
·16 分钟
Quantprobe：6GB显卡跑30B大模型的开源利器
Quantprobe是一个开源内存分配优化框架，通过逐层量化布局和智能CPU/GPU拆分，让6GB显存的老显卡以22 tokens/s速度运行30B参数大模型，大幅降低本地LLM部署的硬件门槛。
阅读全文 →
·13 分钟
yapyap：本地优先的开源会议录制与转录工具
yapyap 是一款本地优先的开源语音会议录制工具，支持录音、转录、说话人识别和AI摘要生成，全部在本地运行，无需上传云端，无需订阅付费，真正实现数据自主可控。
阅读全文 →
·12 分钟
antirez出手：纯C打造DeepSeek 4本地推理引擎ds4
Redis之父antirez开源ds4项目，用纯C语言打造DeepSeek 4 Flash与PRO本地推理引擎，原生支持Metal、CUDA和ROCm三大GPU后端，GitHub斩获近2万Stars。本文深度解析ds4的技术选型、多后端架构与本地推理价值。
阅读全文 →
·12 分钟
本地部署LLM打造交易机器人：硬件选型与模型推荐
详解如何用AMD RX 7800 XT 16GB显存本地部署大语言模型驱动量化交易机器人，涵盖ROCm生态现状、7B-14B模型推荐（Qwen2.5、Llama 3.1）、Ollama/LM Studio部署方案及系统架构设计。
阅读全文 →
·13 分钟
24GB Mac Mini本地跑大模型：模型选型与速度优化指南
24GB内存Mac Mini运行本地大模型太慢？本文分析14B模型在Mac Mini上慢的原因，推荐适合Home Assistant等场景的3B-8B模型选型方案，并提供Ollama推理速度优化的实用建议。
阅读全文 →
·15 分钟
Heretic去审查技术解析：Jamba2与Qwen3.5开源模型实践
深入解析Heretic去审查技术在Jamba2-Mini、Qwen3.5-9B和27B三款开源模型上的应用实践，探讨拒答率从97%降至4%的技术原理、部署方式及去审查模型的安全争议。
阅读全文 →
·6 分钟
29GB内存跑Kimi K3：极限量化的取舍与代价
用29GB内存运行Kimi K3大模型，速度仅0.5 tok/s。深入分析极致量化技术原理、性能代价，以及本地大模型部署的不可能三角与现实启示。
阅读全文 →
·9 分钟
LLM推理速度计算公式：显存带宽决定tokens/sec
详解为什么显存带宽(GB/s)而非显存容量决定大模型本地推理速度。提供tokens/sec计算公式，对比主流显卡带宽数据，给出实用选卡决策顺序，帮你用两个数字精准预测本地大模型生成速度。
阅读全文 →
·12 分钟
Ollama接入OpenWebUI效果变差？完整排查指南
详解Ollama连接OpenWebUI后回答质量下降、响应变慢的常见原因，涵盖num_ctx上下文截断、采样参数差异、GPU资源争抢、系统提示词干扰等排查方法，附系统化排查清单。
阅读全文 →
·14 分钟
小米静默发布MiMo-V2.5-DFlash：300B模型推理速度或将翻倍
小米悄然在Hugging Face上传MiMo-V2.5-DFlash权重，附带独立MTP模型，有望解决llama.cpp兼容问题，让300B超大模型本地推理速度翻倍。社区正期待GGUF量化转换。
阅读全文 →
·17 分钟
Cherry Studio+MCP+Ollama本地AI智能体搭建全教程
手把手教你用Cherry Studio、MCP协议和Ollama搭建本地AI智能体与知识库，涵盖环境配置、文件操作、网页爬取、终端控制及本地RAG知识库全流程，数据不出本地，隐私有保障。
阅读全文 →
·13 分钟
用 Ollama 跑本地模型接入 Claude Code，AI 成本降低 99%
通过 Ollama 开源方案，将 Claude Code 等 AI 编程工具指向本地运行的开源模型，解锁 DeepSeek、Qwen3、Gemma 等数百个模型，在保持原有工作流不变的前提下，将 API 使用成本降至接近于零。本文详解配置方法、硬件要求与竞品对比。
阅读全文 →
·17 分钟
ChatGPT接入本地大模型：零成本无限Token完整教程
手把手教你将ChatGPT桌面端接入本地大模型，实现零成本、无限Token、数据完全本地化。涵盖Ollama直连方案与CC Switch中转方案，兼容LM Studio、llama.cpp、vLLM，同样适用于Claude Code等AI智能体。
阅读全文 →