Meta, AWS dan kontrak cloud bernilai miliaran dolar… Menyuntikkan ‘Graviton5’ ke dalam Agen AI

Meta Platforms与亚马逊云服务(AWS)签署了一项价值数十亿美元的多年期合同。该合同的核心是AWS自主研发的CPU"Graviton"系列,Meta将从AWS获得运营大规模AI代理所需的云基础设施。

据彭博社报道,通过此次合同,Meta可以获得数千万规模的Graviton核心,并且还获得了根据未来需求进一步增加数量的选择权。Meta计划将这些资源用于驱动"代理型AI"。AI代理指的是超越简单聊天机器人、能与外部应用程序连接并自动执行任务的人工智能形式。

Graviton5的特点与性能

此次合同中备受关注的芯片是AWS于去年12月发布的最新CPU"Graviton5"。该芯片采用3纳米工艺制造,搭载了192个核心,基于Arm Holdings的指令集架构。指令集架构相当于定义半导体以何种方式执行运算的"语言"。Arm架构在向量和矩阵运算方面具有优势,被认为有利于AI任务。

AWS表示,Graviton5比上一代自有CPU性能最高提升25%。性能提升的背后是大规模扩展的L3缓存。L3缓存是放置在处理器核心附近的内存空间,通过缩短数据传输距离来提高处理速度。据AWS称,Graviton5的L3缓存比上一代产品大了5倍。

CPU在AI基础设施中的作用

CPU在AI服务器中仍然扮演着重要角色。虽然大规模神经网络运算本身主要由图形处理器(GPU)负责,但CPU负责协调这些GPU并执行各种辅助任务。特别是Meta推进的AI代理往往需要连接外部工具和服务,因此围绕CPU的处理需求不容小觑。此次合同被视为一个信号,表明Meta不仅在GPU方面,而且在整体AI基础设施的设计上正变得更加精细。

Graviton5被设计为与AWS的" Nitro系统"协同运行。Nitro系统是一种将部分基础设施管理工作转移至独立加速器,从而帮助CPU将更多资源用于处理客户应用程序的架构。AWS还解释说,"Nitro隔离引擎"可以验证不同客户的工作负载是否相互分离。这是一种在多租户环境中同时确保安全性和效率的设计。

Meta的长期AI战略

Meta基础设施负责人桑托什·贾纳尔丹表示:“AWS是我们长期信赖的云合作伙伴,通过扩大引入Graviton,我们能够以适合Meta规模的性能和效率,运营CPU密集型的AI代理工作负载。”

此次发布之所以引人注目,还在于这是Meta在过去一个月内公布的第二个大型CPU合同。此前,Meta已决定引入Arm的新型AGI CPU,并宣布计划在未来多种下一代芯片设计上展开合作。市场分析认为,Meta正使其AI基础设施战略摆脱单一依赖GPU的局面,向CPU、定制芯片和云资源扩展,为长期竞争做准备。

TP AI注意事项 使用基于TokenPost.ai的语言模型总结了文章。本文可能遗漏了主要内容或与事实不符。

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Sematkan