#9B模型
共 196 篇相关文章
·15 分钟
微调Qwen3-4B实录：100条数据解决角色混乱问题
分享Qwen3-4B模型微调实践全过程，通过补充100-200条身份稳定数据，成功解决角色混乱问题。详解小模型微调中的数据策略、效果验证方法及MoE架构进阶规划。
阅读全文 →
·15 分钟
Nemotron 2-bit量化30B模型持续工具调用10分钟意味着什么
NVIDIA Nemotron 3.5 Lightning模型在极限2-bit量化后仍能持续运行工具调用超10分钟，展现了低比特量化模型在Agent任务中的惊人鲁棒性。本文拆解2-bit量化技术难点、工具调用的严苛要求及这一突破对本地部署的现实意义。
阅读全文 →
·12 分钟
Unsloth Dynamic v3发布：同尺寸精度提升10%，1-bit量化仅需6GB
Unsloth发布Dynamic v3量化方案，Qwen3.8-27B GGUF模型在同体积下实现10% top-1%精度提升，并推出6-8GB的1-bit极限量化版本。新增Divergence-300长序列评测指标，更真实反映量化质量。
阅读全文 →
·15 分钟
Unsloth量化实测：NVFP4提速1.5倍，动态GGUF压缩83.5%体积
Unsloth基于改进版Dynamic算法为Qwen3.8-27B推出NVFP4和动态GGUF两种量化方案。NVFP4实现1.5倍推理加速且保留92%-97%准确率，动态GGUF将54.7GB模型压缩至9GB。深入解析量化策略、适用场景与部署选择。
阅读全文 →
·12 分钟
Opus 5发布：Token效率与智能双升级，编程体验更优
Anthropic发布Opus 5模型，核心亮点是跨领域Token效率显著提升，同时智能水平再创新高。在编程任务中表现出色，响应更快、成本更低，标志着大模型竞争进入效率优化新阶段。
阅读全文 →
·12 分钟
AI日报：GLM赠1亿token、GPT降价20%、智能体进入飞书办公
8月22日AI行业动态汇总：ZCode赠送1亿GLM Token、OpenAI GPT API降价超20%、DeepSeek多模态模型上线、Kimi AI同事Mira入驻飞书、GPT Image 2支持透明背景，AI竞争进入价格战与多模态能力竞赛新阶段。
阅读全文 →
·12 分钟
Gemma下载量破10亿：揭秘本地大模型的隐形普及真相
Google开源模型Gemma累计下载量突破10亿次，但这不等于10亿独立用户。本文深度解析下载量背后的嵌入式部署、CI/CD重复拉取等真实原因，以及Awesome Gemma仓库如何推动开源AI生态从热度走向实际价值。
阅读全文 →
·15 分钟
Qwen3 27B+DeepSeek Harness实测：本地开源智能体性能评测
详细实测Qwen3 27B模型搭配DeepSeek Harness智能体框架的部署方案、视觉理解能力、推理强度对比及token消耗数据，涵盖边界框绘制、车辆计数等多模态任务表现。
阅读全文 →
·15 分钟
本地大模型的隐藏福利：冬天不用开暖气
本地部署大模型的GPU显卡发热量堪比电暖器，本文深入解析本地LLM玩家选择自建算力的动机、多卡堆叠的功耗现实、散热挑战，以及这个独特社区文化背后的技术趋势。
阅读全文 →
·15 分钟
4090跑Qwen3 27B实测：Q4量化+128K上下文显存计算与调优指南
详解单张RTX 4090部署Qwen3 27B Q4量化模型的完整方案，涵盖显存计算、K8V4非对称KV Cache量化、128K上下文配置、生成速度分析及AI编程工具实战调优经验。
阅读全文 →
·7 分钟
Google Colab训练AI模型：能力边界与实战指南
深入分析Google Colab训练AI模型的真实能力边界，涵盖免费版与Pro版GPU差异、模型规模上限、LoRA微调实践，以及本地+云端协作工作流的优劣与实战建议。
阅读全文 →
·14 分钟
Stripe 70亿收购OpenRouter：AI中转成大生意，端侧模型加速崛起
Stripe以70亿美金收购AI路由平台OpenRouter，Claude系统提示词全文公开，端侧模型Needle仅14MB跑在手表上。深度解析AI API中转赛道与端侧化趋势的行业变局。
阅读全文 →
·11 分钟
英伟达曝光SpaceX持仓成第六大股东，Codex解锁百万上下文窗口
英伟达首次披露持有SpaceX约1.228亿股成为第六大股东，Stripe超70亿美元收购OpenRouter，OpenAI Codex开放百万级上下文能力，美团Agent覆盖9万员工。本文汇总本周AI圈资本动作与技术突破。
阅读全文 →
·18 分钟
端侧钢琴续奏：125M小模型实现本地实时AI音乐自动补全
探索一个仅125M参数的端侧AI钢琴续奏模型，如何在本地设备上实现低延迟、可离线的音乐自动补全。深入分析小模型在垂直音乐生成任务中的技术路径与Edge AI的实践价值。
阅读全文 →
·17 分钟
零成本搭建免费科研Agent：自动写论文实战教程
详解如何零成本搭建科研Agent，利用免费模型+本地Qwen3.5-4B+LaTeX工具链，实现自动文献检索、数据分析、图表绘制与论文撰写，20分钟跑完一篇完整论文，适合预算有限的研究生群体。
阅读全文 →
·14 分钟
Claude Code周限额政策详解：开发者反应与应对策略
Anthropic旗下Claude Code推出周使用限额政策，引发开发者社区热议。本文详解限额政策核心变化、商业逻辑、开发者社区反应及多工具组合、本地模型部署等应对策略。
阅读全文 →
·15 分钟
24GB Mac mini跑27B大模型：三个关键设置防止内存溢出
实测Qwen3.8-27B在24GB M4 Pro Mac mini上的运行表现，详解GPU显存上限调整、KV缓存量化、关闭思考模式三个关键设置，附IQ4_XS与Q4_K_M量化对比数据，帮助你在有限内存中稳定运行27B稠密模型。
阅读全文 →
·14 分钟
Nemotron 3.5 Lightning：专为长程Agent设计的高效开源模型
NVIDIA推出Nemotron 3.5 Lightning开源模型，主打智能、快速、高效，专为连续长程Agent任务设计。本文解析其核心优势、开源策略及对AI Agent行业的潜在影响。
阅读全文 →
