产品AWS Neuron SDK
Neuron
AWS为Inferentia和Trainium芯片提供的软件开发工具包,包含编译器、运行时和库,支持主流框架模型的部署。
时间轴 (近 90 天)
10月12日
当硬件不支持原生低精度张量核心时,int4权重在矩阵乘前被解包并扩展到bf16或fp16,导致带宽和容量优势丧失,T4G的int4加宽到16位、Neuron的int4加宽到bf16均属此机制。
待验证50%
10月4日
《Neuron》上的一项研究显示脑内有足够葡萄糖时神经元对环境信息的调谐精度更高
待验证50%