Google Cloud發表兩款全新AI晶片以競逐Nvidia市場

Google Cloud 週三宣布，其自製的第八代 AI 芯片，也就是張量處理單元（TPUs），將會分成兩種。其中一種被命名為 TPU 8t，專門用於模型訓練；另一種則是 TPU 8i，用於推理。推理指的是模型持續使用的階段，也就是使用者提交提示後所發生的過程。正如預期般，這家公司宣稱這些新 TPUs 相較於前一代有非常出色的性能表現：訓練 AI 模型的速度最高可提升三倍，每美元性能提升 80%，而且還能讓一百萬以上的 TPU 在單一叢集內協同運作。這將帶來更多計算能力，同時也減少能源與成本。Google 將這些晶片稱為 TPUs 而非 GPUs，是因為它們自製的低功耗晶片最初是以 Tensor 命名。不過，Google 的晶片目前還不是對 Nvidia 的全面挑戰，至少目前還不是。和其他主要的雲端服務提供商一樣，包括 Microsoft 和 Amazon 在內，Google 都是將這些晶片用來補充其基礎設施中所提供的 Nvidia 系統。Google 并未完全取代 Nvidia。事實上，Google 承諾其雲端服務今年晚些時候將會提供 Nvidia 最新的晶片 Vera Rubin。未來，隨著企業將其 AI 需求轉移到雲端，並將應用程式移植到這些晶片上，那些自行開發 AI 晶片的超級雲端服務商（包括 Amazon、Microsoft 和 Google）可能會越來越少依賴 Nvidia。然而，目前來說，投資押注 Nvidia 並不合算。知名晶片市場分析師 Patrick Moorhead 在 X 上開玩笑地表示，他在 2016 年 Google 發布第一代 TPU 時就預測這會對 Nvidia（以及 Intel）造成打擊。然而，現在 Nvidia 的市值接近 5 兆美元，這表示他的預測並未經得起時間的考驗。根據 Nvidia 的計畫，Google 在 AI 雲端服務上的成長將會為這家晶片製造商帶來更多業務，而不是更少，即使許多工作負載都是在 Google 的晶片上執行。事實上，Google 也表示已同意與 Nvidia 合作，開發電腦網路軟體，讓基於 Nvidia 系統的運算在 Google 雲端服務中執行得更有效率。特別是，這兩家科技巨頭正在努力強化一種名為 Falcon 的軟體網路技術，這是由 Google 在 2023 年於開放原始碼數據中心硬體組織 Open Compute Project 下所創建並公開原始碼的。