實體: Nvidia
所有提到 Nvidia 的 AI 新聞與動態。
-
AWS re:Invent 2025 大會重點新聞整理
亞馬遜雲服務（AWS）年度技術大會 AWS re:Invent 2025 已圓滿結束，會議核心訊息聚焦於企業級人工智慧，特別是能賦予客戶更大控制權以自訂 AI 代理的升級功能。AWS 宣稱其新代理能從使用者學習並獨立運作數天。AWS 技術長沃納·弗格爾（Werner Vogels）在閉幕演講中強調，AI 將取代部分工作，但透過演進可避免被淘汰。會議於 12 月 2 日由 CEO 馬特·加曼（Matt Garman）開場，指出 AI 代理能帶來實質商業回報。12 月 3 日，AWS 代理 AI 副總裁斯瓦米·西瓦蘇布拉馬尼安（Swami Sivasubramanian）表示，人類首次能用自然語言描述目標，由代理生成計畫、撰寫程式碼並執行完整解決方案。 硬體方面，AWS 推出新一代 Graviton5 CPU，擁有 192 個處理器核心，據稱能將核心間通訊延遲降低 33% 並提升頻寬。同時，AWS 宣佈 Trainium3 AI 訓練晶片，搭配 UltraServer 系統，宣稱訓練與推論效能提升 4 倍，能耗降低 40%，並透露 Trainium4 將支援 NVIDIA 晶片。軟體工具上，AWS 強化 Amazon Bedrock 與 Amazon SageMaker AI，新增無伺服器模型自訂功能及強化學習微調（Reinforcement Fine Tuning），讓開發者能更輕鬆建立自訂大語言模型（LLM）。 在成本與優惠方面，AWS 推出資料庫節省計畫（Database Savings Plans），承諾使用者可節省高達 35% 的資料庫費用，適用於一年期固定使用量。此外，AWS 向符合資格的新創公司提供 Kiro Pro+ 一年的免費信用額度，僅限特定國家的早期階段新創。Kiro 自主代理能撰寫程式碼並學習團隊工作習慣，獨立運作數小時至數天。其他新代理包括處理安全審查與 DevOps 任務的 Frontier 代理系列。 AWS 還推出 Nova 家族四款新 AI 模型，其中三款為文字生成，一款為文字與影象生成，並新增 Nova Forge 服務，允許客戶存取預訓練、中訓練或後訓練模型並用自有
-
安迪·賈西表示，亞馬遜的 Nvidia 對手晶片已經成為數十億美元的業務
亞馬遜執行長安迪·賈西（Andy Jassy）在 AWS re:Invent 會議上宣佈推出新一代 AI 晶片 Trainium3，其效能比現有的 Trainium2 提升四倍，同時功耗更低。賈西表示，Trainium2 業務已具備顯著動能，成為數十億美元營收規模的業務，目前已有超過一百萬顆晶片投入生產，超過十萬家公司使用它作為 Bedrock 工具的主要選擇。Bedrock 是亞馬遜的 AI 應用程式開發工具，允許公司從多種 AI 模型中進行選擇。賈西認為亞馬遜的 AI 晶片在價格與效能方面具有優勢，能為客戶帶來更好的體驗和更低的成本。亞馬遜執行長馬特·加曼（Matt Garman）在採訪中透露，客戶 Anthropic 是該業務的重要貢獻者。加曼提到，亞馬遜與 Anthropic 合作推出了 Project Rainier 專案，該專案已部署超過五十萬顆 Trainium2 晶片，用於協助 Anthropic 的 Claude 模型開發。Project Rainier 是亞馬遜最雄心勃勃的 AI 伺服器叢集，分佈於美國多個資料中心，於十月上線。亞馬遜是 Anthropic 的主要投資者，作為交換，Anthropic 將 AWS 選為其主要的模型訓練合作伙伴，儘管 Anthropic 的模型現在也透過微軟雲和英偉達的晶片提供服務。OpenAI 同樣使用 AWS，但由於其執行在英偉達晶片上，對 Trainium 營收貢獻有限。文章指出，僅有少數美國公司如谷歌、微軟、亞馬遜和 Meta 擁有與英偉達競爭所需的工程能力，包括晶片設計、高速互連和網路技術。英偉達曾在 2019 年以高出價收購 Mellanox，掌握了關鍵的高效能網路技術。此外，基於英偉達晶片的 AI 模型和軟體依賴其專有的 CUDA 軟體架構，這使得開發非 CUDA 晶片的應用變得困難。儘管如此，亞馬遜計劃推出 Trainium4，使其能在同一系統中與英偉達 GPU 互操作。亞馬遜可能已從 Trainium2 獲得數十億美元營收，且下一代晶片將更優越，這足以讓其在雲服務市場中保持競爭力。
-
亞馬遜以自建 NVIDIA「AI 工廠」挑戰競爭對手
亞馬遜於週二宣佈推出名為"AI 工廠"的新產品，允許大型企業和政府在其自有的資料中心執行其 AI 系統。根據亞馬遜雲服務（AWS）的說法，客戶提供電力和資料中心，AWS 則部署 AI 系統、進行管理，並可將其與其他 AWS 雲端服務整合。此舉旨在滿足那些重視資料主權或希望絕對控制資料、防止其落入競爭對手或外國敵對勢力手中的公司與政府需求。部署本地 AI 工廠意味著資料不會被傳送到模型製造商，甚至不會共享硬體。這個產品名稱讓人聯想到英偉達（Nvidia）的硬體系統，後者也提供從 GPU 晶片到網路技術等執行 AI 所需的工具。事實上，AWS AI 工廠是與英偉達的合資合作，該系統將結合 AWS 與英偉達的技術。採用這些系統的企業可以選擇英偉達最新的 Blackwell GPU 晶片，或亞馬遜的新 Trainium3 晶片。該系統使用 AWS 自有的網路、儲存、資料庫和安全性功能，並可接入 Amazon Bedrock AI 模型選擇與管理服務，以及 AWS SageMaker AI 模型構建與訓練工具。有趣的是，AWS 並非唯一安裝英偉達 AI 工廠的巨型雲端供應商。今年十月，微軟展示了其首批將在全球資料中心執行的 AI 工廠，用於處理 OpenAI 的工作負載。當時微軟未宣佈這些極端機器將可供私有雲使用，而是強調其依賴英偉達 AI 工廠資料中心技術來構建和連線其新的"AI 超級工廠"，即正在威斯康星州和喬治亞州建設的最新一代資料中心。上月，微軟還概述了將在當地國家建設的資料中心和雲端服務，以解決資料主權問題。雖然微軟的選項也包括"Azure Local"，即其可安裝在客戶站點的自有管理硬體，但 AI 導致最大雲端供應商如此重資投入企業私有資料中心和混合雲，這有點諷刺，彷彿回到了 2009 年的情況。
-
亞馬遜推出一款令人驚豔的新AI晶片並預告一項親 Nvidia 的發展路線圖
亞馬遜雲服務（AWS）於 2025 年 2 月 25 日在 AWS re:Invent 2025 年大會上正式推出新一代 AI 訓練晶片 Trainium3，並同步啟動 Trainium4 的開發。Trainium3 UltraServer 系統採用公司自研的 3 奈米 Trainium3 晶片及自研網路技術，相比第二代產品在 AI 訓練與推論方面效能提升超過 4 倍，記憶體容量增加 4 倍。單一 UltraServer 可搭載 144 顆晶片，數千臺聯動後可達 100 萬顆晶片規模，效能為前代 10 倍。該系統能耗降低 40%，在資料中心電力需求龐大的背景下，AWS 強調此舉能為客戶節省成本。目前包括 Anthropic、日本 LLM Karakuri、SplashMusic 及 Decart 在內的多家客戶已採用該技術並顯著降低推論費用。針對下一代 Trainium4，AWS 表示將支援 Nvidia 的 NVLink Fusion 高速晶片互連技術，使 AWS 自研伺服器架構能與 Nvidia GPU 協同運作，有助於吸引基於 Nvidia CUDA 架構開發的大型 AI 應用。若依以往節奏，Trainium4 預計將於明年大會進一步披露，但 AWS 尚未公佈具體時間表。