产品Neuron SDK / AWS Neuron SDK
AWS Neuron
AWS 为自研推理加速芯片 Inferentia 和 Trainium 提供的 SDK 与运行时栈,包含编译器 neuronx-cc、运行时库及 PyTorch/TensorFlow 集成层,模型需编译为 NEFF 格式执行。
时间轴 (近 90 天)
10月13日
AWS Neuron 是 AWS 为 Inferentia 和 Trainium 自研推理加速芯片提供的 SDK 与运行时栈,包含 neuronx-cc 编译器、运行时库及 PyTorch/TensorFlow 集成层,模型需先编译成 NEFF 格式才能执行。
待验证50%
10月6日
Neuron Profile Explorer是AWS Neuron提供的性能可视化工具,能将底层硬件采集的时间线数据(算子执行时间、NeuronCore利用率、DMA传输等)以可交互图形界面呈现
待验证50%