#CUDA vs ROCm
共 25 篇相关文章
·14 分钟
整数除法转浮点除法：反直觉的CPU性能优化技巧详解
深入解析将整数除法迁移到浮点运算的性能优化原理。涵盖CPU除法单元延迟差异、数值精度限制、舍入语义陷阱及编译器自动优化策略，帮助开发者正确应用这一底层优化技巧。
阅读全文 →
·14 分钟
Meta Muse Glimmer 30B深度评测：视觉理解能力惊艳，本地部署门槛低
Meta Muse Glimmer 30B实测评测，296亿参数稠密模型采用Apache 2.0开源协议，视觉理解能力出色，支持128K上下文，24GB显存即可本地运行。详解基准测试、多模态识别表现与局限。
阅读全文 →
·15 分钟
为AI生成的GPU内核构建合约级验证器：解决LLM代码信任难题
探讨如何通过合约级验证器验证LLM生成的GPU内核代码正确性，解决AI代码生成中的并行竞态、边界越界等信任问题，构建生成-验证-迭代的自动化工作流。
阅读全文 →
·11 分钟
Codex Linux桌面版实测：比CLI更适合初学者的AI编程助手
实测OpenAI Codex Linux桌面版，对比CLI体验优势：图形化界面降低学习门槛，无缝继承会话配置，支持本地模型接入与定时任务。详解安装方法、插件管理及本地模型性能表现。
阅读全文 →
·13 分钟
Modly：本地GPU运行的开源图像转3D建模工具
Modly是一款开源桌面应用，支持本地GPU运行AI模型，将图像自动生成3D模型。无需云端API，数据隐私有保障，适合游戏开发者、3D打印爱好者和产品设计师使用。
阅读全文 →
·15 分钟
AMD核显跑26B大模型实测：统一内存架构下全GPU推理与mmap优化指南
实测AMD Radeon 840M核显利用32GB统一内存运行Gemma 26B-A4B大模型，达到17 tok/s生成速度。深入解析Ollama在统一内存架构下的GPU/CPU占比误读、mmap性能瓶颈及优化方案，为APU用户提供本地大模型部署实用建议。
阅读全文 →
·12 分钟
antirez出手：纯C打造DeepSeek 4本地推理引擎ds4
Redis之父antirez开源ds4项目，用纯C语言打造DeepSeek 4 Flash与PRO本地推理引擎，原生支持Metal、CUDA和ROCm三大GPU后端，GitHub斩获近2万Stars。本文深度解析ds4的技术选型、多后端架构与本地推理价值。
阅读全文 →
·15 分钟
MI355X跑Kimi K3实测：每美元性能超越B300的背后逻辑
深度分析AMD MI355X运行Kimi K3大模型的性价比表现，探讨其每美元性能为何优于NVIDIA B300，以及这对AI推理硬件市场格局的影响。
阅读全文 →
·9 分钟
LLM推理速度计算公式：显存带宽决定tokens/sec
详解为什么显存带宽(GB/s)而非显存容量决定大模型本地推理速度。提供tokens/sec计算公式，对比主流显卡带宽数据，给出实用选卡决策顺序，帮你用两个数字精准预测本地大模型生成速度。
阅读全文 →
·6 分钟
RX 9060 XT vs RTX 5060 Ti：本地AI显卡怎么选
RX 9060 XT与RTX 5060 Ti同为16GB显存，本地AI推理该选谁？从CUDA生态、ROCm兼容性、LLM推理性能到实际使用体验，全面对比两款显卡在本地AI场景中的优劣与适用人群。
阅读全文 →
·8 分钟
Rust与Mojo正悄然取代Python底层引擎
Python再次登顶编程语言榜首，但AI团队正悄悄用Rust和Mojo替换其底层。本文剖析Python的速度与GIL之痛、双语言问题，以及Rust工具链和Mojo在GPU领域的崛起。
阅读全文 →
·12 分钟
DeepSeek开源免费策略如何颠覆AI产业格局
DeepSeek以"商业化盈利+开源免费"双轨模式挑战AI行业垄断格局，冲击英伟达等科技巨头逾万亿美元市值。本文深度解析DeepSeek开源战略的商业逻辑、全球反响及其对AI产业格局的深远影响。
阅读全文 →
llmfit：一条命令检测硬件能跑哪些本地大模型
·15 分钟
llmfit：一条命令检测硬件能跑哪些本地大模型
llmfit 是用 Rust 编写的开源命令行工具，无需下载模型即可预判本地硬件能否运行指定 LLM。覆盖数百种模型与 Ollama、llama.cpp 等主流推理后端，帮助开发者在本地部署大模型前快速完成硬件适配评估，避免反复试错。
阅读全文 →
·11 分钟
苹果M7 Ultra芯片曝光：1.5TB统一内存能否重塑本地AI推理格局
Reddit社区曝光苹果M7 Ultra芯片规格，最高1.5TB统一内存或支持本地运行所有主流开源大模型。本文深度解析其技术架构、定价争议、内存带宽瓶颈及苹果生态锁定问题，探讨这款芯片对本地大模型部署的实际意义。
阅读全文 →
·10 分钟
AMD Ryzen AI Halo实测：x86架构能否撼动英伟达DGX Spark？
深度实测AMD Ryzen AI Halo迷你AI盒子：搭载Ryzen AI Max Plus 395（Strix Halo）芯片，128GB统一内存，售价4000美元。对比英伟达DGX Spark，从Token生成、预填充速度到x86架构优势，全面解析谁更值得入手。
阅读全文 →
·7 分钟
软件复利效应：AI基础设施竞争的真正胜负手
GPU军备竞赛之外，软件正成为AI基础设施的核心复利引擎。本文深度解析软件优化的叠加效应、CUDA生态的护城河价值，以及开源如何将个体技术红利转化为社区集体财富，为AI基础设施团队提供战略参考。
阅读全文 →
·12 分钟
Ollama为何快速崛起？拆解本地大模型工具的成功逻辑
Ollama如何从小众开源项目成长为开发者默认选择？本文从产品设计、技术策略、生态建设三个维度，拆解Ollama在本地大语言模型工具领域快速崛起的核心逻辑，以及它对AI工具开发者的启示。
阅读全文 →
·17 分钟
Ollama+Hermes本地AI部署：打造100%私有的个人AI操作系统
用Ollama+Hermes构建完全私有的本地AI系统：零费用、无速率限制、数据不出本地。本文详解部署步骤、模型选择技巧及私有/云端混合工作流，助你真正"拥有"AI而非"租用"AI。
阅读全文 →
产品体验·9 分钟
Google Gemma 4实测：手机离线运行+Ollama部署教程
实测Google Gemma 4开源模型在三台手机上的离线运行表现，详解Dense与MOE架构区别，附Ollama + Claude Code完整部署教程。从1B到31B四款模型覆盖手机到工作站全场景，4GB显存即可运行。
阅读全文 →
教程攻略·7 分钟
Stable Diffusion本地部署教程：免费无限制的AI绘画方案
详解Stable Diffusion本地部署方法，包括硬件要求、一键整合包安装流程和模型管理技巧。零成本、无次数限制、完全离线运行，适合高频创作者和隐私敏感用户的开源AI绘画替代方案。
阅读全文 →