共 160 篇相关文章

实测Qwen3.8-27B在24GB M4 Pro Mac mini上的运行表现,详解GPU显存上限调整、KV缓存量化、关闭思考模式三个关键设置,附IQ4_XS与Q4_K_M量化对比数据,帮助你在有限内存中稳定运行27B稠密模型。

NVIDIA推出Nemotron 3.5 Lightning开源模型,主打智能、快速、高效,专为连续长程Agent任务设计。本文解析其核心优势、开源策略及对AI Agent行业的潜在影响。

一则Reddit热门漫画折射出中国开源大模型的全球影响力。从DeepSeek、Qwen到GLM,中国AI模型凭借开源策略和快速迭代,正在改变全球开发者的选择格局,本文深度解析这一趋势背后的行业信号。

Qwen通义千问开发者暗示用户不必等待35B-A3B模型,社区猜测可能有更大规模MoE模型发布或产品线策略调整。本文解读命名规则、分析三种可能方向及对开源大模型生态的影响。

详解Qwen3-27B本地部署全流程,包括模型下载、llama.cpp配置、量化版本选择。实测编码能力、多模态视觉识别与Agent工作流表现,8GB显存即可运行的顶级开源大模型。

深度实测Meta开源Muse Glimmer 30B模型,详解其智能体能力、编程表现、性能评分及本地部署方案。对比Qwen 3.6 27B,解析工具调用、MCP集成、多步骤规划等核心优势,附RTX 3090等硬件配置推荐。

详解vLLM大模型推理部署与Unsloth高效微调全流程,涵盖命令行一键部署、Python代码调用、AutoDL云服务器环境搭建、ModelScope国内加速等实操细节,以DeepSeek-OCR视觉模型为例演示完整链路。

千问3.8 27B模型本地部署实测,4bit量化塞进24GB显卡,SGLang推理框架避坑指南,编程、长程任务、剧本拆解全面测试,SWE-bench Pro分数超越Claude Opus,个人可用的本地长程编程模型首次成为现实。

深度实测Meta开源模型Muse Glimmer 30B的智能体代理能力、编程表现与本地部署方案。对比Qwen 3.6 27B,解析基准测试数据、硬件配置建议及适用场景,助你选择最适合的本地AI模型。

详解机器学习工程师与AI工程师的核心差异,提供从工程基础、LLM应用开发到生产化落地的完整学习路线,包含RAG系统、智能体开发等实操项目建议,帮助ML从业者高效转型AI工程师。

深度实测Meta开源Muse-Glimmer-30B模型,九大维度403道题综合均分76.04,工具调用90+分碾压同级。4bit量化几乎无损,24G显存轻松驱动,D-Flash加速3.1倍达233tokens/秒,是本地部署玩家的高性价比首选。

Meta开源Muse-Glimmer-30B稠密模型,专为Agent场景设计,支持工具调用与多模态理解。采用Apache协议,部分指标超越Qwen-3 27B,本文详解其性能表现、硬件需求与部署方案。

实测Meta开源30B模型Muse Glimmer,覆盖视觉识别、逻辑推理、全栈应用等场景。视觉能力出色但逻辑薄弱,D-Spark加速提速3倍却牺牲质量,128K上下文成最大硬伤。详细部署方案与横评数据。

实测AMD Radeon 840M核显利用32GB统一内存运行Gemma 26B-A4B大模型,达到17 tok/s生成速度。深入解析Ollama在统一内存架构下的GPU/CPU占比误读、mmap性能瓶颈及优化方案,为APU用户提供本地大模型部署实用建议。

系统梳理大模型学习路线,从Python基础到LangChain、LlamaIndex两大框架,再到RAG、Agent、模型微调三大核心技能,最后通过实战项目完成闭环,助你三个月内掌握大模型应用开发能力。

Liquid AI发布LFM2.5模型,仅2.6B参数即可在多项基准测试中媲美10B级大模型。本文解析其架构创新、训练策略及对AI行业效率优化趋势的深远影响。

深度解析Meta Muse Glimmer开源编程模型,30B参数规模支持本地运行,开放权重保障数据隐私。详解其技术定位、适用场景、部署要求及与Code Llama、DeepSeek Coder等竞品的对比分析。

Needle2是一个仅14MB的端侧智能体大模型(agentic LLM),专为手机、可穿戴设备、智能家居和机器人设计。本文深入分析其技术原理、极致压缩策略及应用场景,探讨端侧AI从云到端的范式转移趋势。