产品Inferentia
AWS Inferentia
亚马逊自研的机器学习推理专用芯片,与Trainium同属AWS自研AI加速器系列,支持通过NKI底层接口进行深度性能优化
时间轴 (近 90 天)
10月3日
近年来出现专为AI推理设计的定制芯片,如Google TPU和AWS Inferentia
待验证50%
9月7日
AWS的Trainium针对大规模模型训练,Inferentia专注推理场景
待验证50%
亚马逊自研的机器学习推理专用芯片,与Trainium同属AWS自研AI加速器系列,支持通过NKI底层接口进行深度性能优化
近年来出现专为AI推理设计的定制芯片,如Google TPU和AWS Inferentia
AWS的Trainium针对大规模模型训练,Inferentia专注推理场景