[控场AI]
产品Neuron SDK / AWS Neuron SDK

AWS Neuron

AWS 为自研推理加速芯片 Inferentia 和 Trainium 提供的 SDK 与运行时栈,包含编译器 neuronx-cc、运行时库及 PyTorch/TensorFlow 集成层,模型需编译为 NEFF 格式执行。

时间轴 (近 90 天)

10月13日

AWS Neuron 是 AWS 为 Inferentia 和 Trainium 自研推理加速芯片提供的 SDK 与运行时栈,包含 neuronx-cc 编译器、运行时库及 PyTorch/TensorFlow 集成层,模型需先编译成 NEFF 格式才能执行。

待验证50%
10月6日

Neuron Profile Explorer是AWS Neuron提供的性能可视化工具,能将底层硬件采集的时间线数据(算子执行时间、NeuronCore利用率、DMA传输等)以可交互图形界面呈现

待验证50%

全部知识事实 (2)

来源文章