[控场AI]
产品AWS Neuron SDK PyTorch组件

Torch Neuron

亚马逊AWS Neuron SDK中的PyTorch组件,为Trainium和Inferentia系列AI芯片提供编译与运行时框架,通过实现PyTorch设备抽象接口实现与原生PyTorch工具链的无缝兼容

时间轴 (近 90 天)

10月6日

借助Torch Neuron,Trainium现在已经是一个标准的PyTorch设备

待验证50%
10月6日

Torch Neuron是AWS Neuron SDK中的PyTorch组件,是亚马逊为其自研AI芯片(Trainium和Inferentia系列)提供的编译与运行时框架

待验证50%
10月6日

Torch Neuron通过实现PyTorch的设备抽象接口,将Trainium暴露为标准设备,用户将模型和张量迁移到xla或neuron设备即可复用torch.profiler、torch.compile等原生工具

待验证50%
10月6日

Torch Neuron底层通过XLA编译器将PyTorch计算图转化为适配Trainium神经网络计算核心(NeuronCore)的指令

待验证50%

全部知识事实 (4)

来源文章