VIDRAFT用NPU完成大模型预训练，无需GPU

韩国AI初创公司VIDRAFT宣布，已完全使用NPU（神经网络处理单元）完成了一次大语言模型的预训练，全程未依赖GPU。据韩国科技财经媒体BigGo 파이낸스报道，这一消息挑战了"LLM预训练必须依赖GPU集群"的行业惯性认知。

为什么这件事值得关注

大语言模型的预训练一直与GPU深度绑定。PyTorch、JAX等主流框架及其CUDA内核与NVIDIA硬件协同优化了十余年，NCCL通信库、张量并行、流水线并行等分布式训练原语也都有成熟的GPU实现。绝大多数公开的LLM训练方案默认假设GPU的显存层次和互联结构（NVLink、InfiniBand）。

VIDRAFT的做法意味着，上述技术栈的"GPU默认假设"在预训练层面被打破了一次。这与NPU上跑推理有本质区别——推理场景中NPU早已商业化落地（手机SoC、边缘芯片），但用NPU做大规模预训练，公开可查的案例极少。

NPU（神经网络处理单元）是专为神经网络张量运算设计的专用加速器，典型代表包括华为昇腾、谷歌TPU、苹果Neural Engine及各类手机SoC中的NPU核。与GPU的通用SIMT架构不同，NPU通常采用脉动阵列或类似的数据流架构，以更低的功耗换取更高的矩阵乘加吞吐，但代价是编程灵活性较差。GPU经过十余年的生态沉淀，拥有CUDA、cuDNN、NCCL等成熟软件栈，开发者可精细控制内存层级和通信；NPU则多依赖厂商私有SDK（如昇腾的CANN、TPU的XLA路径），跨平台可移植性和算子覆盖度远不如GPU。这正是NPU在推理端广泛落地、却在预训练端鲜有公开案例的根本原因：预训练对算子完备性、数值稳定性和分布式通信的要求远高于推理。

预训练与推理在工程需求上有本质差异。推理是前向计算，对数值精度容忍度高（可量化到INT8甚至INT4），且可离线编译固定计算图；预训练则需完整的前向与反向传播、优化器状态维护（如Adam的动量和方差）、梯度跨设备同步，显存（或NPU片上内存）占用通常是推理的数倍，且对数值精度极为敏感——混合精度训练中一旦出现溢出或下溢，可能导致loss发散。此外，预训练是长时间持续运行的任务，对互联带宽、容错和稳定性要求极高。因此，NPU能跑推理并不等于能跑预训练，后者需要跨越更严苛的工程门槛，这也是VIDRAFT声明引发关注的核心背景。

NPU预训练需要跨过的工程门槛

从GPU迁移到NPU做预训练，并非换个硬件那么简单。VIDRAFT至少需要在以下几个层面完成工程适配：

算子兼容性——Transformer预训练涉及的核心张量运算（矩阵乘法、注意力、层归一化、嵌入查找）必须在NPU上受支持且性能可接受。

分布式训练协调——NPU设备间的梯度同步和参数更新需要重新设计，因为其互联拓扑可能与GPU集群完全不同。

框架集成——要么改造现有框架以编译和调度训练图到NPU计算单元，要么依赖厂商提供的SDK。

数值精度管理——NPU支持的浮点格式可能与GPU不同，预训练的训练稳定性要求在前向和反向传播中仔细处理精度问题。

这些挑战中的任何一个处理不当，都可能导致训练崩溃或收敛失败。VIDRAFT声称完成了完整的预训练流程，说明这些问题至少多少有点得到了解决。

分布式训练中的并行策略是理解这一挑战的关键。主流方案包括数据并行（每卡持有完整模型副本、切分数据）、张量并行（切分单个算子内的矩阵）、流水线并行（按层切分模型）以及ZeRO/FSDP等显存优化技术。这些策略高度依赖设备间高速互联：GPU集群靠NVLink和InfiniBand实现高带宽低延迟通信，NCCL库对此做了深度优化。NPU设备的互联拓扑往往不同（如华为昇腾的HCCL、TPU的ICI），通信原语、带宽和拓扑结构各异，因此梯度同步、All-Reduce等集合通信操作需要重新实现和调优，否则会成为训练吞吐的瓶颈。这是NPU预训练区别于单卡推理的最复杂环节之一。

关键信息缺失与待验证之处

目前可获得的信息存在明显空白。原报道因限流未能获取完整正文，因此没有任何基准测试数据——包括损失曲线、训练吞吐量、下游任务评测结果。

VIDRAFT也未公布模型架构、参数规模、训练数据、所用NPU的具体厂商。这使得外界无法评估这次预训练的实际水平：模型有多大？训练了多少token？最终loss是多少？与同规模GPU训练的模型相比质量如何？

NPU训练和GPU训练的结果是否可比，本身就是一个需要验证的问题。硬件无关的训练是质量对齐的必要条件，但远非充分条件。模型最终质量取决于数据、规模和优化策略，而这些细节目前均未公开。

对ML工程实践者的意义

这件事的核心信号是硬件栈可移植性。GPU供应紧张和成本高企是全球AI开发的真实瓶颈，尤其在NVIDIA分配额度有限的地区。如果NPU能够胜任预训练，就意味着存在替代的采购和基础设施路径。

不过，这一信号目前仍停留在"可行性演示"层面。没有可复现的数字、没有公开的训练代码或模型权重，工程团队暂时无法据此做出技术选型决策。VIDRAFT使用的是什么训练框架、是否适配了PyTorch或JAX、NPU的具体型号是什么——这些关键细节的缺失，使得社区无法评估其可复现性和推广价值。

对于关注替代加速器栈的工程师来说，下一步值得留意的是VIDRAFT是否会发布技术报告或开源相关代码。如果NPU预训练的方案能够被复现和验证，它才真正具备改变行业基础设施格局的可能性。