今日,Meta正式宣布将大规模部署Amazon Graviton处理器。随着Meta着力构建其下一代人工智能,此项合作也标志着其与亚马逊云科技的长期合作关系进一步深化。
此次部署初期将涵盖数千万个Amazon Graviton核心,并可随着Meta的AI能力增长而灵活扩展。该合作反映了AI基础设施构建方式的转变:虽然GPU对于训练大型模型仍然至关重要,但Agentic AI的兴起正催生对CPU密集型工作负载的巨大需求,包括实时推理、代码生成、搜索以及多步骤任务编排。Amazon Graviton5专为此类工作负载而设计,为Meta提供了大规模高效运行这些负载所需的处理能力。
这些芯片将为Meta的多种工作负载提供支持,包括赋能其AI项目的发展。这项工作需要能处理数十亿次交互,同时协调复杂、多步骤的智能体工作流的基础设施——这正是Amazon Graviton专为CPU密集型工作设计而具备的能力。
Amazon Graviton赋能AI工作负载
随着组织越来越多地采用Agentic AI——能够推理、规划和完成复杂任务的自主系统——市场对高性能、高能效计算基础设施的需求空前高涨。Meta正处于Agentic AI发展的前沿,其对Amazon Graviton的大规模部署反映了一个简单的现实:代码生成、实时推理和前沿模型训练等智能体工作负载是CPU密集型的,而采用专用芯片是支持这些负载最有效的方式。
Amazon Graviton5芯片配备192个核心和相较于前一代产品5倍扩容缓存,可将核心间通信延迟降低高达33%。这意味着更快的数据处理速度和更高的带宽——这对于需要持续推理并执行多步骤任务的Agentic AI系统至关重要。
Amazon Graviton基于Amazon Nitro System构建,其使用专用硬件和软件来提供高性能、高可用性和高安全性。Amazon Nitro System支持裸金属实例以直接访问硬件,同时提供熟悉的弹性网络适配器(ENA)和Amazon Elastic Block Store(Amazon EBS)设备,使Meta能够在不影响性能的情况下运行自己的虚拟机。
Amazon Graviton5系列实例还支持弹性结构适配器(EFA),实现了实例间的低延迟、高带宽通信。这对于Meta的Agentic AI工作负载至关重要,因为大规模任务需要分布在许多协同工作的处理器上。
作为亚马逊云科技的长期客户,Meta一直依赖于亚马逊云科技高度可扩展和安全的云基础设施来支持其全球业务。
亚马逊副总裁兼杰出工程师Nafea Bshara表示:“这不仅关乎芯片,更在于为客户提供基础设施以及数据和推理服务,以构建能够理解、预测并高效扩展至全球数十亿人的AI。Meta扩大与亚马逊云科技的合作,部署数千万Amazon Graviton核心,充分展示了将专用芯片与亚马逊云科技完整的AI堆栈相结合,赋能下一代Agentic AI发展的巨大潜力。”
Meta基础设施负责人Santosh Janardhan表示:“随着我们扩大Meta AI愿景背后的基础设施建设,计算资源的多样化是一项战略要务。多年来,亚马逊云科技一直是我们值得信赖的云合作伙伴。此次扩大对Amazon Graviton的采用,将使Meta能够以所需的性能和效率,运行Agentic AI背后的CPU密集型工作负载。”
Amazon Graviton的能效优势
Amazon Graviton5基于3纳米芯片技术打造,这是一种能够生产更小、更高效处理器的制造工艺。由于亚马逊云科技从零开始设计其芯片,并全面掌控从芯片设计到服务器架构的完整流程,因此能够以通用处理器无法比拟的方式优化性能和效率。
由此产生的基础设施在提供更强性能的同时,保持了领先的能效,帮助Meta在追求宏伟AI目标的同时,达成其可持续发展目标。与上一代相比,Amazon Graviton5的性能提升高达25%。随着整个行业对AI算力需求的增长,底层基础设施的效率变得越来越重要——无论对于成本管理还是减少环境影响而言都是如此。
本次合作标志着大规模AI基础设施构建方式开启新篇章,并展示了Amazon Graviton等专用芯片如何帮助Meta等公司为全球数十亿人提供更智能、更个性化的体验。
如需深入了解亚马逊云科技如何构建定制芯片以赋能下一代AI,请访问以下链接,获取更多关于Amazon Graviton5的详细信息:
Amazon Graviton产品主页
Graviton技术文档
亚马逊云科技(Amazon Web Services)始终以客户至上、加速创新、卓越运营和长期主义为准则。近二十年来,亚马逊云科技通过推动云计算和生成式AI的普及,让各行各业、不同规模的组织都能便捷使用这些技术,从而发展成为历史上增长最快的企业科技服务商之一。全球数百万客户都信赖亚马逊云科技,借助亚马逊云科技加速创新,推动业务转型并塑造未来。凭借业界领先的AI能力和覆盖全球的基础设施布局,亚马逊云科技还助力开发者将创意转化为现实。