亚马逊暂停开发Inferentia AI推理芯片,主攻Trainium训练芯片

来源:爱集微 #亚马逊# #AI芯片#
7461

亚马逊已停止开发Inferentia人工智能(AI)芯片,转而专注于用于训练AI模型的Trainium芯片,该公司认为这一领域为与AI芯片领导者英伟达竞争提供了更好的途径。

自2018年宣布进入AI芯片领域以来,亚马逊AWS已开发了为推理预测而定制的Inferentia芯片和用于AI模型训练的Trainium芯片。

亚马逊AWS计算总监Rahul Kulkarni表示,“两条产品线将会融合。我们将专注于Trainium,以提供推理和训练性能。”

Inferentia专注于以较低的成本执行较少量计算。随着生成式AI变得越来越先进,训练和推理都需要更大的计算量。因此,使用不同芯片的好处正在逐渐消失。

而Trainium具有更大的内存容量,并支持更广泛的数据格式。它还包含在使用多台服务器同时处理大量数据时实现快速计算和通信的机制。

在拉斯维加斯举行的年度科技盛会上,亚马逊宣布Trainium2芯片已上市。该公司还公布在2025年下半年发布Trainium3芯片的计划。Trainium3将采用先进3nm工艺制造,计算性能将比Trainium2提高一倍。

亚马逊目标是打破英伟达在AI芯片市场的主导地位,目前英伟达在全球AI芯片市场占有约90%的份额。亚马逊一直在向云客户大力推广Trainium2,强调该芯片的运行成本低于英伟达产品。

苹果表示将使用Trainium2芯片进行自己的AI开发。美国AI初创公司Anthropic已获得亚马逊80亿美元的投资,该公司正在获得数十万个Trainium2芯片,以协助其开发生成式AI模型。(校对/李梅)

责编: 李梅
来源:爱集微 #亚马逊# #AI芯片#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...