Meta将在AI基础设施布局中采用数十万颗AWS Graviton芯片

来源:爱集微 #Meta# #亚马逊# #英伟达#
965

当地时间4月24日,亚马逊的云部门表示,Meta已同意在其至少为期三年的交易中使用亚马逊的通用Graviton芯片。这一安排展示了Meta在CEO马克·扎克伯格的领导下,与谷歌和微软等技术同行一道,愿意不惜重金以满足高计算需求。

据报道,近几周,Meta与CoreWeave和Nebiu签订了价值480亿美元的交易,这两家公司都出租英伟达GPU,用于运行人工智能模型。亚马逊没有透露其与Meta交易的价值。

值得一提的是,Meta正在通过减少员工人数来平衡基础设施扩张。周四,公司宣布计划裁员约8000人,占其员工总数的10%。

与英伟达GPU不同,基于Arm的Graviton处理器来自顶级云服务提供商亚马逊网络服务(AWS),可以处理各种计算任务,类似于英特尔或AMD的CPU。但Graviton仍然可以用于AI工作负载,特别是在模型经过大量数据训练后,用于细化或后训练。

“Graviton是许多基础模型公司预训练使用最多的平台之一,Meta现在也是其中最新的一个,”AWS副总裁兼杰出工程师Nafea Bshara说。

据悉,Bshara共同创立了芯片公司Annapurna Labs,亚马逊在2015年收购了该公司。从那时起,亚马逊开发了用于训练和运行AI模型的特殊用途芯片,以及其他组件。Graviton已经成为一个突破性的产品,获得了Adobe、苹果和Snowflake等公司的采用。本周早些时候,亚马逊支持的AI模型构建商Anthropic宣布计划使用Graviton处理器。

AWS表示,Graviton在所有通过EC2计算服务提供的计算选项中,以给定价格提供最佳性能,同时能耗降低60%。Meta已经小规模使用Graviton芯片,现在将使用数十万个芯片,使其成为Graviton的前五大客户之一。他还提到,该公司自2017年起便开始从AWS租用英伟达GPU。

4月23日,英特尔CEO陈立武告诉分析师,对其Xeon服务器芯片的需求超过了供应。“在过去几年里,关于高性能计算的故事几乎完全围绕着GPU和其他加速器展开。但近几个月来,我们看到了CPU作为AI时代不可或缺的基础重新出现的迹象。”

但Bshara称,Meta选择Graviton并不是因为其他类型的CPU不可用。

Meta 的基础设施主管 Santosh Janardhan 在一份声明中表示:“扩展到 Graviton 使我们能够以我们所需的性能和效率运行智能 AI 背后的 CPU 密集型工作负载。”

责编: 张轶群
来源:爱集微 #Meta# #亚马逊# #英伟达#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...