又一項AI晶片的重大進展，Meta簽約取得數百萬顆Amazon AI CPU

Amazon 剛剛透過 Meta 的合作，再次因自家研發的晶片而取得重大進展。Meta 已與 Amazon 簽署協議，將使用數百萬枚 AWS Graviton 晶片來支撐其不斷成長的 AI 需求，Amazon 在週五宣布這項消息。值得注意的是，AWS Graviton 是基於 ARM 架構的 CPU（中央處理器，處理一般計算任務的晶片），而非 GPU（圖形處理器）。雖然 GPU 仍是訓練大型模型的首選晶片，但一旦模型訓練完成，基於這些模型的 AI 代理（AI agents）正在改變所需晶片類型。這些代理會產生計算密集型的工作負載，例如即時推理、撰寫程式、搜尋，以及協調執行多步驟任務的代理管理。AWS 表示，其最新版本的 Graviton 晶片正是為處理與 AI 相關的計算需求而設計。這項協議讓 Meta 的部分資金回流至 AWS，而非競爭對手如 Google Cloud。去年八月，Meta 已與 Google Cloud 簽署了一份價值十億美元、持續六年的協議，儘管在此之前，Meta 主要還是 AWS 的客戶，同時也使用 Microsoft Azure。我們不禁注意到，AWS 恰好在 Google Cloud Next 會議結束時宣布這項協議，彷彿對其雲端競爭對手投以虛擬的冷笑。當然，Google 也製造自家的自訂 AI 晶片，並在該會議上宣布了這些晶片的新版本。事實上，Amazon 也製造自家的 AI GPU：Trainium，儘管其名稱為「Trainium」，實際上用於訓練與推理兩階段——也就是模型訓練完成後，處理使用者提示的階段。然而，Anthropic 已經在這個月早些時候宣布了一項協議，預計將許多這些晶片長期用於其運算需求。Claude 的開發商同意投入 100 億美元，持續十年在 AWS 上運行其運算負載——特別強調 Trainium 晶片的使用，而 Amazon 則同意再投資 5 億美元（使其總投資達到 13 億美元）作為回報。最終，這項 Meta 協議讓 Amazon 有機會展示一個巨大的 AI 客戶，作為其自製 CPU 的證明。這些晶片與 Nvidia 新推出的 Vera CPU 競爭，Vera 也是基於 ARM 架構，專為處理 AI 代理工作負載而設計。當然，差異在於 Nvidia 將其晶片與 AI 系統銷售給企業與雲端服務提供商（包括 AWS），而 AWS 僅透過其雲端服務提供對其晶片的存取權。這個月早些時候，Amazon 首席执行長 Andy Jassy 在年度股東信中針對 Nvidia 與 Intel 發表評論，表示企業希望獲得更好的 AI 計算效能與價格比例，並表示他有意透過這一點來爭取更多合作。這也意味著對 Amazon 內部晶片研發團隊的壓力更大，這個團隊我們在上個月曾獨家造訪其實驗室。