VKORE：让推理专用NPU跑起AI训练

软件层让推理专用NPU学会训练

VIDRAFT 发布了 VKORE，一套面向 NPU 的 AI 加速软件层。它最有意思的地方在于：不更换任何硬件，而是通过软件手段，让原本只支持推理的 NPU 具备训练能力。

官方给出的对标非常直接——VKORE 之于 NPU，就像 CUDA 之于英伟达 GPU。硬件厂商出厂时把 NPU 锁定在推理这一条窄路上，而 VKORE 试图在这层硅片之上补出一套可编程的通用算力抽象。

这家公司已经提交了 16 项相关专利，并且明确把 VKORE 定位为硬件无关的软件层，不绑定任何单一 NPU 厂商。

它是怎么做到的

要理解 VKORE 的价值，先看推理专用 NPU 的短板在哪里。

这类芯片通常只暴露有限的指令面，跑预编译好的前向图很高效，但缺少反向传播所需的算子覆盖——梯度计算、权重更新这些训练环节根本无从谈起。

VKORE 的思路是：把缺失的计算原语用软件实现，基于 NPU 本身支持的底层操作重新组合，再通过调度最大化硬件利用率。推理侧的做法是更激进的批处理和流水线优化，这些是厂商默认运行时不会做的；训练侧则是把 Transformer 训练操作拆成 NPU 可执行的 kernel，本质是在“推理芯片”和“通用 ML 加速器”之间搭桥。

VIDRAFT 计划把 VKORE 用在自己两类内部负载上：一是 AI 判断引擎，输出概率或分数而非自由文本；二是递归自我改进模型（RSI），模型反复解题并把验证过的结果喂回自己的训练循环。更远的设想，是一个统一的 NPU 数据中心，在同一套硬件上同时完成服务与持续学习，不再依赖 GPU。

NPU 的指令面为什么受限？ NPU（神经网络处理单元）是为矩阵乘累加（MAC）密集的推理计算而设计的专用芯片，其硬件架构通常围绕卷积、GEMM、激活函数等前向算子优化，数据流的宽度和片上缓存都以“一次前向、高度并行”为前提。为了让芯片面积、功耗和良率可控，厂商不会在硅片上预留通用标量运算或反向传播所需的中间缓存——例如残差梯度的逐元素回传、LayerNorm 的反向统计量、优化器的动量状态存储等，这些在训练中会频繁写读显存和片上 SRAM，而推理芯片的存储层级和带宽正是按“只读权重、流式激活”来配比的。因此并非厂商不愿开放，而是硬件本身缺少对应的指令和存储通路。VKORE 要做的，就是在这些受限通路之上用软件重新组织数据流，把训练所需的梯度计算拆成可以用现有 MAC 单元和 DMA 完成的多步组合，代价是调度复杂度和额外的访存开销。

跑分与模型表现

据 ZDNet Korea 报道，官方公布的数字如下：

指标	结果
单用户推理延迟提升（同一 NPU，开/关 VKORE）	3.8×
并发服务器吞吐提升（同一 NPU，开/关 VKORE）	4.1×
训练吞吐对比 CPU 基线（同一服务器）	约 170×

模型侧，VIDRAFT 的判账引擎模型 Darwin-27B-ZTC-v5 在公开基准 S1MB 上于 152 个模型中排名第一，官方称表现超过了 Perplexity、Cloudflare 和 Meta 的模型。Darwin 系列还在 AIME 2026 和 HMMT 2026 数学推理基准上拿到满分。

值得提醒的是，上述数据全部来自 VIDRAFT 自身的公开公告，尚无第三方独立复现。

如何理解这三个数字？ 推理延迟 3.8× 和并发吞吐 4.1× 是在同一颗 NPU 上、分别开启和关闭 VKORE 得到的对比，衡量的是 VKORE 作为调度与批处理优化层的增益，而不是芯片本身的性能。训练吞吐约 170× 则是跟 CPU 基线比，CPU 上跑 Transformer 训练会因缺少高并发的矩阵单元而极慢，170× 实际上是在用一颗推理 NPU 对抗一颗通用 CPU，不能直接与 GPU 的训练吞吐对标。更重要的是，这三组数字都来自厂商自报的测试条件，论文或第三方复现尚未出现。在评估这类“软件让硬件越级”的公告时，需要额外关注训练是否包含完整反向传播、优化器更新和混合精度，以及瓶颈是否被转移到主机侧。

现在能试用吗

VKORE 本身尚未公开。 它目前是专有基础设施软件，处于开发阶段，没有公开的 SDK、GitHub 仓库或 API。

不过 Darwin 模型系列在 Hugging Face 上有公开记录。参考 VIDRAFT 此前的发布（包括曾登顶五个 Hugging Face 基准的 Darwin-180B-RSI），可以到其组织主页查看已发布的 checkpoint。至于 OpenAI 兼容推理 API，本次公告没有确认任何公开端点，需要关注官方渠道。

原文：ZDNet코리아（来源链接见文末）。

常见问题

Q：VKORE 是新编译器、自定义运行时，还是别的什么？ A：按公开信息，最准确的描述是软件加速层，功能上类比 CUDA，位于应用层 ML 框架和 NPU 硬件之间。具体实现细节（是否包含编译器、kernel 库、运行时调度器，还是三者都有）尚未披露。

Q：支持哪些 NPU？ A：VIDRAFT 明确按硬件无关的方向构建，不绑定特定厂商。公开的支持硬件清单还不存在，官方目标是广泛的 NPU 兼容性。

Q：今天能用 VKORE 在 NPU 上训练自己的 Transformer 吗？ A：公开不行。VKORE 尚未作为开发者工具发布，训练能力仅在内部 NPU 硬件上演示过，官方表示会用于自己的判断引擎和 RSI 模型工作流，但还没有公开的接入路径。