Jetson Orin
NVIDIA推出的面向边缘AI计算的高性能嵌入式计算平台,广泛用于机器人、无人机和边缘推理场景。
时间轴 (近 90 天)
论文评测显示,在RTX 3090与Jetson Orin上,BitMTP五任务平均吞吐提升最高达2.0倍,MBPP+单项达到3.3倍。
EdgeWise 的选择器是一个 12M 参数的 BERT 风格二分类模型,运行在 Jetson Orin 上推理耗时不到 5ms,在 Apple M 系列芯片上不到 3ms。
在本教程验证中,CUDA 测试容器成功检测到 Jetson Orin 处理器、初始化 CUDA 并完成 GPU 内存测试
Jetson Orin系列提供最高64GB统一内存,CPU和GPU共享同一块物理内存池,无需通过PCIe总线在两者之间拷贝数据
Jetson Orin系列提供最高64GB的统一内存,配合LPDDR5高带宽
Jetson Orin系列支持JetPack 6.x,兼容CUDA 12.x和最新AI框架生态
军用边缘AI芯片受SWaP(尺寸、重量和功耗)约束,NVIDIA的Jetson Orin系列功耗为15-60瓦
全部知识事实 (7)
论文评测显示,在RTX 3090与Jetson Orin上,BitMTP五任务平均吞吐提升最高达2.0倍,MBPP+单项达到3.3倍。
50%待验证EdgeWise 的选择器是一个 12M 参数的 BERT 风格二分类模型,运行在 Jetson Orin 上推理耗时不到 5ms,在 Apple M 系列芯片上不到 3ms。
50%待验证Jetson Orin系列提供最高64GB统一内存,CPU和GPU共享同一块物理内存池,无需通过PCIe总线在两者之间拷贝数据
50%待验证Jetson Orin系列提供最高64GB的统一内存,配合LPDDR5高带宽
50%待验证Jetson Orin系列支持JetPack 6.x,兼容CUDA 12.x和最新AI框架生态
50%待验证军用边缘AI芯片受SWaP(尺寸、重量和功耗)约束,NVIDIA的Jetson Orin系列功耗为15-60瓦
50%待验证在本教程验证中,CUDA 测试容器成功检测到 Jetson Orin 处理器、初始化 CUDA 并完成 GPU 内存测试
50%