产品AWS Trainium

Trainium

亚马逊AWS推出的自研AI训练芯片，针对云上主流训练工作负载定制设计，是亚马逊定制硅战略的组成部分

时间轴 (近 90 天)

6月1日

推测解码、模型蒸馏、KV Cache优化等推理优化技术的持续进步正在使单位推理成本快速下降

待验证85%

推测解码、模型蒸馏、KV Cache优化等推理优化技术的持续进步正在使单位推理成本快速下降