GenieX
高通开源的原生边缘推理运行时，使用Rust编写，面向骁龙SoC设备，可将计算图异构调度至Hexagon NPU、Adreno GPU与Kryo CPU，支持本地运行LLM和VLM
时间轴 (近 90 天)
高通开源了一个名为 GenieX 的推理运行时，用 Rust 编写，面向骁龙芯片设备本地运行大语言模型（LLM）和视觉语言模型（VLM）。
GenieX 的核心价值在于智能编排：将计算图拆分后分发到高通 SoC 上的 Hexagon NPU、Adreno GPU 和 Kryo CPU 三个计算单元，并带有自动回退和负载均衡机制，开发者无需手动指定每个算子的后端。
GenieX 目前支持的硬件范围覆盖 Snapdragon X Elite 笔记本（Windows on ARM）、骁龙 8 系列旗舰手机和边缘计算盒子三类设备。
GenieX 对 INT4 和 INT8 的权重与激活量化提供一等公民级别的支持，量化调度方案专门针对 Hexagon Tensor Accelerator 做了调优。
GenieX 官方宣称开箱即支持 Llama 3、Mistral 以及多模态 VLM 模型架构。
GenieX 可以通过克隆 GitHub 仓库后执行 cargo build --release 进行编译使用，其 Rust API 允许通过 Device::Snapdragon(SnapdragonTarget::Npu) 指定目标计算单元。
GenieX 目前仍处于早期阶段，其生态工具链和模型转换流程是否足够顺畅将决定它能否从能跑走到好用。
高通的策略是让开发者用一套 Rust 代码在数以亿计的骁龙设备上运行本地模型，从而将骁龙芯片从硬件平台升级为 AI 部署平台。
全部知识事实 (8)
高通开源了一个名为 GenieX 的推理运行时，用 Rust 编写，面向骁龙芯片设备本地运行大语言模型（LLM）和视觉语言模型（VLM）。
50%待验证GenieX 的核心价值在于智能编排：将计算图拆分后分发到高通 SoC 上的 Hexagon NPU、Adreno GPU 和 Kryo CPU 三个计算单元，并带有自动回退和负载均衡机制，开发者无需手动指定每个算子的后端。
50%待验证GenieX 目前支持的硬件范围覆盖 Snapdragon X Elite 笔记本（Windows on ARM）、骁龙 8 系列旗舰手机和边缘计算盒子三类设备。
50%待验证GenieX 对 INT4 和 INT8 的权重与激活量化提供一等公民级别的支持，量化调度方案专门针对 Hexagon Tensor Accelerator 做了调优。
50%待验证GenieX 官方宣称开箱即支持 Llama 3、Mistral 以及多模态 VLM 模型架构。
50%待验证GenieX 可以通过克隆 GitHub 仓库后执行 cargo build --release 进行编译使用，其 Rust API 允许通过 Device::Snapdragon(SnapdragonTarget::Npu) 指定目标计算单元。
50%待验证GenieX 目前仍处于早期阶段，其生态工具链和模型转换流程是否足够顺畅将决定它能否从能跑走到好用。
50%待验证高通的策略是让开发者用一套 Rust 代码在数以亿计的骁龙设备上运行本地模型，从而将骁龙芯片从硬件平台升级为 AI 部署平台。
50%