#NVIDIA B300
共 207 篇相关文章
教程攻略·9 分钟
Ollama+OpenCode本地部署AI编程：零成本替代Cursor的完整方案
详细教程：通过Ollama本地部署千问3 Coder大模型，配合OpenCode开源编程工具，实现零成本AI编程。涵盖环境搭建、代码生成、自动调试全流程，附硬件配置建议。
阅读全文 →
教程攻略·9 分钟
GPT-OSS-20B私有化部署教程：硬件选型+部署流程+效果实测
详解OpenAI开源GPT-OSS-20B本地私有化部署全流程，涵盖显卡选型（RTX 5090/V100/4070Ti）、Linux环境部署步骤、API调用配置及实测效果，附120B模型硬件方案对比，助你低成本搭建企业级AI服务。
阅读全文 →
教程攻略·9 分钟
一个Prompt搭建本地生图MCP Server，让Codex批量生成编辑图片
详解如何用一个Prompt搭建本地图像生成MCP Server，让Codex调用Flux模型实现零Token消耗的批量图片生成与编辑，附完整搭建步骤和实测效果。
阅读全文 →
深度解读·8 分钟
微软Tutel：MoE模型加速库深度解析，支持FP4/FP8低精度计算
深度解析微软开源Tutel MoE优化库，支持FP8、NVFP4、MXFP4多精度计算，适配DeepSeek、Kimi-K2、Qwen3等主流MoE模型，解决All-to-All通信瓶颈与显存管理难题。
阅读全文 →
前沿研究·9 分钟
SVDQuant：4-bit量化让扩散模型在消费级GPU上高效运行
SVDQuant是ICLR 2025 Spotlight论文，通过低秩分解吸收异常值实现扩散模型4-bit量化，显存降低75%。开源项目Nunchaku获3800+ Stars，让FLUX等大型图像生成模型在RTX 4060等中端显卡上流畅推理。
阅读全文 →
产品体验·13 分钟
AnythingLLM：6万Star开源AI知识库，本地部署隐私优先
AnythingLLM是GitHub近6万Star的开源AI知识库工具，支持本地部署、RAG检索增强生成、多模型切换和文档解析，零配置开箱即用，为企业和个人提供隐私优先的AI生产力方案。
阅读全文 →
