Trainium
亚马逊AWS推出的自研AI训练芯片，针对云上主流训练工作负载定制设计，是亚马逊定制硅战略的组成部分
核心事实
时间轴 (近 90 天)
该 MCP 服务器演示中包含六个推理后端：Amazon Bedrock、一个 SageMaker 端点、EC2 g6 上的 vLLM、g5g 上的推理服务，以及 Inferentia2 (inf2) 和 Trainium (trn1) 上的 Gemma 4 模型。
AWS Neuron 是 AWS 为 Inferentia 和 Trainium 自研推理加速芯片提供的 SDK 与运行时栈，包含 neuronx-cc 编译器、运行时库及 PyTorch/TensorFlow 集成层，模型需先编译成 NEFF 格式才能执行。
Inferentia2和Trainium的内存为2×16 GiB，每个NeuronCore独享16 GiB，模型必须跨两个核心拆分或塞进16 GiB，这对embedding表占大头的E2B模型是硬约束。
Inferentia2和Trainium的内存带宽是NVIDIA L4的2.0到2.7倍，但解码速度只有L4的0.28倍。
云厂商自研AI芯片的做法最早由谷歌TPU在2015年前后开启，其后亚马逊推出Trainium/Inferentia，Meta、字节跳动等也陆续布局。
亚马逊有Trainium和Inferentia，谷歌有TPU，微软的Maia已迭代到第三代。
主流AI计算硬件包括NVIDIA的GPU（配合CUDA）、Google的TPU、AMD的GPU（配合ROCm）、亚马逊Trainium、英特尔Gaudi等
超大规模云厂商正纷纷部署自研芯片，包括谷歌的TPU、亚马逊的Trainium和Meta的MTIA
Meta的MTIA、亚马逊的Trainium/Inferentia以及特斯拉的Dojo都是巨头针对自身工作负载进行硅级定制的自研芯片案例
Trainium 实例为 trn1 系列，主要面向大规模预训练和微调；Inferentia 实例为 inf2 系列，侧重于高并发、低延迟的在线推理
还有 16 条时间轴事件
全部知识事实 (20)
多家大型科技公司在构建定制AI芯片团队：Google迭代TPU，Amazon开发Trainium和Inferentia，Microsoft自研Maia芯片，Meta推进MTIA项目
80%已验证亚马逊AWS推出了面向训练的Trainium和面向推理的Inferentia两条产品线
70%已验证谷歌通过自研TPU、亚马逊通过Trainium和Inferentia芯片走上自研算力路径
65%待验证Amazon已推出Trainium（训练）和Inferentia（推理）两条AI芯片产品线
95%待验证TPU的成功开启了AI专用芯片的行业浪潮，此后亚马逊推出了Trainium/Inferentia，微软开发了Maia
90%待验证推测解码、模型蒸馏、KV Cache优化等推理优化技术的持续进步正在使单位推理成本快速下降
85%待验证Amazon的AWS re/Start和AI Ready计划聚焦云计算与AI工程师的定向培养
80%待验证AWS Neuron 是 AWS 为 Inferentia 和 Trainium 自研推理加速芯片提供的 SDK 与运行时栈，包含 neuronx-cc 编译器、运行时库及 PyTorch/TensorFlow 集成层，模型需先编译成 NEFF 格式才能执行。
50%待验证该 MCP 服务器演示中包含六个推理后端：Amazon Bedrock、一个 SageMaker 端点、EC2 g6 上的 vLLM、g5g 上的推理服务，以及 Inferentia2 (inf2) 和 Trainium (trn1) 上的 Gemma 4 模型。
50%待验证Inferentia2和Trainium的内存为2×16 GiB，每个NeuronCore独享16 GiB，模型必须跨两个核心拆分或塞进16 GiB，这对embedding表占大头的E2B模型是硬约束。
50%待验证Inferentia2和Trainium的内存带宽是NVIDIA L4的2.0到2.7倍，但解码速度只有L4的0.28倍。
50%待验证云厂商自研AI芯片的做法最早由谷歌TPU在2015年前后开启，其后亚马逊推出Trainium/Inferentia，Meta、字节跳动等也陆续布局。
50%待验证亚马逊有Trainium和Inferentia，谷歌有TPU，微软的Maia已迭代到第三代。
50%待验证主流AI计算硬件包括NVIDIA的GPU（配合CUDA）、Google的TPU、AMD的GPU（配合ROCm）、亚马逊Trainium、英特尔Gaudi等
50%待验证超大规模云厂商正纷纷部署自研芯片，包括谷歌的TPU、亚马逊的Trainium和Meta的MTIA
50%待验证Meta的MTIA、亚马逊的Trainium/Inferentia以及特斯拉的Dojo都是巨头针对自身工作负载进行硅级定制的自研芯片案例
50%待验证AWS 提供搭载 NVIDIA GPU 的 EC2 实例，以及自研的 Trainium（训练）和 Inferentia（推理）芯片
50%待验证Trainium 实例为 trn1 系列，主要面向大规模预训练和微调；Inferentia 实例为 inf2 系列，侧重于高并发、低延迟的在线推理
50%待验证使用 Trainium 和 Inferentia 芯片需要通过 AWS Neuron SDK 对模型进行编译适配，存在一定迁移成本
50%待验证版税模式使Synopsys收入从项目制转向经常性，与亚马逊的Trainium、Inferentia等自研芯片出货量挂钩
50%