35美元淘到54GB显存：9张P106矿卡捡漏实录

一笔35美元的意外收获

在本地AI推理成本居高不下的当下，一位Reddit用户分享了令人咋舌的捡漏经历：仅花费3000卢布（约35美元），他从俄罗斯二手交易平台Avito上买回了一整套闲置矿机，获得总计54GB显存的GPU算力。

按原帖描述，卖家几年前买下一个车库，发现里面遗留了一套挖矿设备，由于不确定是否还能正常工作，便以5000卢布（约60美元）的价格挂牌出售。这位买家将价格压到3000卢布成交，开机后发现全部9张显卡均能正常运行，唯一缺失的只是硬盘——用U盘启动即可解决。

换算下来，平均每GB显存成本还不到0.65美元，这个价格在任何正规渠道都难以想象。对于预算有限的本地AI爱好者而言，这无疑是一次教科书式的捡漏。

P106到底是什么卡

这批显卡是9张P106 6GB，本质上就是“矿卡版”的GTX 1060 6GB。P106是NVIDIA专门面向加密货币挖矿推出的型号，基于Pascal架构，与消费级1060共用核心，但出厂时物理上移除或禁用了视频输出接口——也就是说它没有显示输出，只能作为纯计算卡使用。

规格与定位

单张P106拥有1280个CUDA核心和6GB GDDR5显存，显存带宽约192GB/s。放在今天来看，Pascal架构已经相当老旧，缺乏Tensor Core，对FP16和INT8的加速支持有限，但对于跑一些中小型模型的推理任务仍有一定价值。

9张卡堆叠起来的54GB显存，理论上能够加载相当体量的大语言模型。这正是矿卡在AI推理场景被重新挖掘的核心逻辑：显存容量在很多本地部署场景中比单卡算力更关键。

Tensor Core是NVIDIA从Volta架构（2017年）开始引入的专用矩阵运算单元，专为深度学习中的混合精度计算设计。它能以远超传统CUDA Core的效率执行FP16矩阵乘法，同时以FP32累加保证精度，这正是现代大语言模型推理加速的核心依赖。Ampere及更新架构还进一步支持INT8、INT4量化推理，可在几乎不损失模型精度的前提下将吞吐量翻倍甚至更高。Pascal架构缺乏Tensor Core，意味着在同等显存下，P106的每秒token生成速度会显著落后于RTX 30/40系同等显存的卡，量化加速的红利也基本无法享受。

便宜背后的现实考量

35美元买到54GB显存听起来近乎白嫖，但多卡矿机方案的隐性成本不容忽视。

功耗与散热

单张P106满载功耗约120W，9张同时运行意味着峰值功耗可能超过1000W。在电价较高的地区，长期运行的电费很可能迅速超过硬件本身的购入成本。矿机原本就是为7×24小时高负载设计，散热和供电系统也需要相应配套。

多卡拆分的性能瓶颈

54GB显存是9张卡“拼”出来的，而非单一大显存。模型在多卡间拆分时，PCIe带宽和卡间通信会成为明显瓶颈，尤其是矿机主板通常采用PCIe x1转接，带宽极为受限。这意味着实际推理速度会远低于显存总量所暗示的“纸面能力”。

PCIe x1通道的理论带宽仅约500MB/s（PCIe 3.0），而PCIe x16通道可达约16GB/s。矿机主板为了挂载尽可能多的GPU，普遍使用x1延长转接线，这使得卡间数据交换速度极为有限。大语言模型在多卡张量并行时，每一层前向传播都需要在卡间同步激活值，带宽瓶颈会直接拉低整体推理吞吐。相比之下，专业AI服务器通过NVLink实现GPU直连，带宽可达数百GB/s。因此9张P106的54GB显存在实际张量并行推理中，延迟表现可能还不如一张带宽充足的单卡方案。

架构老化的软件兼容性

Pascal架构年代久远，许多新的推理框架和量化方案对老架构的优化并不积极。虽然llama.cpp等项目仍能在这类硬件上运行，但用户往往需要自行处理驱动、CUDA版本和框架兼容的一系列问题。

CUDA计算能力（Compute Capability）版本决定了GPU能使用哪些特性与指令集。Pascal架构对应计算能力6.x，而许多现代推理框架（如vLLM、bitsandbytes量化库）已将最低支持版本提升至7.0（Volta/Turing），部分功能甚至要求8.0（Ampere）以上。这意味着P106无法使用FlashAttention、AWQ等主流加速方案，只能依赖兼容性更广但效率更低的通用路径。llama.cpp因其基于CPU优化起家、对旧GPU保持宽泛兼容而成为此类硬件的主要可用框架，但即便如此，用户仍需手动匹配正确的CUDA工具链版本，避免新版驱动与旧架构之间的兼容断层。

矿卡在本地AI中的再利用

这个案例折射出一个更大的趋势：加密货币挖矿退潮后，大量二手矿卡正以极低价格流入市场，而本地大模型部署的兴起恰好为这些显存“找到了新家”。

对于愿意折腾、电费不敏感、追求极致性价比的玩家来说，矿卡阵列是搭建实验性推理平台的廉价选择。但它并不适合追求稳定、低噪音、高能效的生产环境。35美元的入场券之后，真正的成本藏在电费、折腾时间和性能妥协之中。

这类分享的价值，与其说是推荐大家都去抢矿机，不如说它提醒我们：在本地AI硬件的世界里，显存容量和成本效率的权衡远比单纯堆算力更值得思考。