共 142 篇相关文章

英伟达推出Nemotron系列开源MoE模型,采用混合专家架构实现稀疏激活,可在笔记本电脑或DGX Spark本地高效运行。本文解析MoE架构原理、本地部署优势及Nemotron从轻量本地到云端Ultra的分层策略。

混合专家模型(MoE)让单一参数量指标失效。本文解释总参数与激活参数的区别,帮助你理解MoE架构如何解耦知识容量与推理成本,以及为何这对模型选择至关重要。

Maple-Preview项目实现20B参数三元量化MoE模型在iPhone上以120 tok/s速度运行。本文拆解三元量化、MoE稀疏激活、端侧推理三大核心技术,分析端侧大模型部署的价值与挑战。

腾讯混元Hy3正式发布,295B参数MoE架构,激活仅21B,支持256K超长上下文。幻觉率从12.5%降至5.4%,MRCR得分近乎翻倍,内置MTP与EAGLE投机解码,SGLang Day-0即可部署。本文深度拆解其四大核心亮点与Agent-first定位。
科技前沿Liquid AI发布LFM2.5-8B-A1B模型,采用MoE架构,8B总参数仅激活1.5B,在工具调用场景中媲美6B级模型表现。支持128K上下文、本地部署、多语言,SGLang即时支持。
科技前沿悟空2.2P 35B MOE模型正式开源,采用对抗式杂交蒸馏技术,综合性能超越Qwen3.6-27B。4090显卡Q5量化达158 tokens/s,仅需8.9G显存即可运行,支持256K上下文。详解核心技术、硬件配置与实测数据。
深度解读深度解析微软开源Tutel MoE优化库,支持FP8、NVFP4、MXFP4多精度计算,适配DeepSeek、Kimi-K2、Qwen3等主流MoE模型,解决All-to-All通信瓶颈与显存管理难题。

海外博主系统实测Qwen3 27B量化版本地部署表现,覆盖256K长上下文记忆、HumanEval编程、MCP工具链等维度。RTX A2000仅16GB显存即可运行,代码生成质量超越同级所有本地模型。

谷歌三周内迭代推出Gemini 3.7 Flash,代码能力和网页开发评分领先同级竞品。同期OpenAI开放GPT-5.6超快模式候补,借助Cerebras芯片实现每秒750 Token输出,提速14倍。深度解析两大模型的性能、定价与适用场景。

深度解读智谱AI GLM-5.3在Artificial Analysis平台上的基准测试表现,分析第三方评测平台的价值、GLM系列演进脉络,以及国产大模型从刷榜内卷走向实用评测的行业趋势。

实测Qwen3.8-27B在24GB M4 Pro Mac mini上的运行表现,详解GPU显存上限调整、KV缓存量化、关闭思考模式三个关键设置,附IQ4_XS与Q4_K_M量化对比数据,帮助你在有限内存中稳定运行27B稠密模型。

阿里发布Qwen3.8-Max Preview,参数量达2.4T,支持1M上下文窗口,聚焦编码与生产力场景。本文深度分析其定价体系、能力表现、与Kimi K3和DeepSeek的竞争格局,以及对阿里云MaaS业务的传导效应。

Qwen通义千问开发者暗示用户不必等待35B-A3B模型,社区猜测可能有更大规模MoE模型发布或产品线策略调整。本文解读命名规则、分析三种可能方向及对开源大模型生态的影响。

DeepSeek-V4-Pro-0813正式版实测评测,涵盖384K上下文、定价解析,以及12种风格个人博客和3D赛车游戏的Agent Coding生成效果,详解非多模态模型的前端与游戏开发能力边界。

深度拆解Cursor Pro账号共享工具的运作原理,分析批量账号池轮换机制背后的封号风险、代码泄露隐患与资金安全问题,帮助开发者理性评估低价订阅服务的真实代价。

Gemini 3.7 Flash创意写作排名第三引发Reddit社区激烈争论。用户质疑创意写作基准测试的可信度,讨论Claude写作风格固化、Fable辞藻堆砌等问题,探讨AI创意写作评估的主观性困境与改进方向。

深度解析阿里通义千问Qwen 3.8 Max旗舰模型,涵盖基准测试性能、数学推理与代码生成能力评估,以及开源社区反馈与开发者部署指南,助你全面了解这款国产大模型新标杆。

AI每焦耳智能在16个月内实现18倍提升,远超摩尔定律节奏。本文深入解析这一能效革命背后的算法优化、硬件迭代等驱动因素,探讨其对AI普及、边缘计算和数据中心能耗的深远影响。