實體: Nvidia
所有提到 Nvidia 的 AI 新聞與動態。
-
訊飛智慧投資五千万美元建置用於程式碼與文字的擴散模型
隨著大量資金湧入 AI 創業公司，擁有新想法的 AI 研究者現在是時候去測試了。如果想法足夠新穎，獨立公司可能比大實驗室更容易獲得所需資源。這正是 Inception 的故事，這是一家開發基於擴散模型的 AI 模型的創業公司，剛剛籌資 5000 萬美元。該輪融資由 Menlo Ventures 主導，參與機構包括 Mayfield、Innovation Endeavors、Microsoft 的 M12 基金、Snowflake Ventures、Databricks Investment 以及 Nvidia 的投資部門 NVentures。Andrew Ng 和 Andrej Karpathy 也提供了額外的天使投資。該專案的領導者是斯坦福大學教授 Stefano Ermon，他的研究專注於擴散模型，這種模型透過迭代 refinement 生成輸出，而非逐字生成。這些模型驅動了 Stable Diffusion、Midjourney 和 Sora 等基於影象的 AI 系統。Ermon 自 AI boom 之前就開始研究這些系統，現在他利用 Inception 將這些模型應用於更廣泛的任務。 與資金同時，公司推出了其 Mercury 模型的新版本，專為軟體開發設計。Mercury 已經整合進 ProxyAI、Buildglare 和 Kilo Code 等多個開發工具中。Ermon 表示，擴散方法將幫助 Inception 的模型在延遲（response time）和計算成本這兩個最重要指標上節省資源。他說，這些基於擴散的 LLM 比其他人今天構建的都要快且高效，這是一種完全不同的方法，仍有大量創新可以帶來。 理解技術差異需要一些背景知識。擴散模型在結構上與主導文字 AI 服務的自回歸模型不同。像 GPT-5 和 Gemini 這樣的自回歸模型是順次執行的，根據先前處理的材料預測下一個詞或詞片段。擴散模型是為影象生成訓練的，採用更整體的方法，逐步修改回應的整體結構，直到匹配所需結果。傳統觀點認為應使用自回歸模型處理文字應用，這對於最近一代 AI 模型非常成功。但越來越多的研究表明，當模型處理大量文字或管理資料約束時，擴散模型可能表現更好。Ermon 指出，當在大型程式碼庫上執行操作時，這些品質成為真正的優勢。 擴散模型在利用硬體方面也有更大的靈活性，這在 AI 基礎設施需求日益明顯時特別重要。自回歸
-
此新創公司的金屬堆疊技術或可解決AI巨大的散熱問題
Nvidia 於三月宣佈其 Rubin 系列 GPU 時透露，預計於 2027 年推出的 Ultra 版本晶片所組建的機櫃，電力需求可能高達 600 千瓦，這幾乎是當前最快電動車充電器輸出功率的近兩倍。隨著資料中心機櫃功耗攀升至 480 千瓦並逼近 600 千瓦，如何為包括記憶體與網路晶片等佔伺服器散熱負載約 20% 的周邊元件進行液態散熱，成為工程師面臨的最大挑戰。Alloy Enterprises 開發了一項技術，利用銅片製造固態散熱板，以解決此問題。該公司共同創辦人兼執行長 Ali Forsyth 指出，過去在機櫃功耗為 120 千瓦時，工程師不太在意那 20% 的散熱需求，但現在必須為所有元件進行液態散熱，而目前針對這些部件尚無解決方案。 Alloy 採用一種名為「堆疊鍛造」的擴散結合技術，透過熱壓將金屬片層層堆疊並結合，而非傳統切削或 3D 列印。此過程成本高於傳統切削但低於 3D 列印，最終產出的散熱板為單一金屬塊，無縫隙且無孔隙，其銅材強度等同於切削製品。該技術可製作最小至 50 微米（約人類頭髮寬度一半）的微小特徵，增加冷卻液流動空間。據 Forsyth 表示，Alloy 的散熱板熱效能比競爭對手高出 35%。由於堆疊鍛造技術複雜，Alloy 負責內部設計，客戶僅提供規格與尺寸，公司軟體協助將其轉化為適合製造的形狀。工廠流程包括將銅卷預處理、雷射切割特徵、塗佈阻焊劑，最後將切片堆疊並送入擴散結合機，利用熱壓將其壓合成單一金屬塊。Alloy 最初設計時針對鋁合金，後因資料中心需求轉向銅材，因其導熱佳且抗腐蝕。產品於六月宣佈後引發巨大關注，Alloy 正與資料中心領域的各大廠商合作。
-
英偉达與高通加入美國與印度風投協助建立印度下一波深度科技新創公司
Nvidia 與 Qualcomm Ventures 加入由美國與印度投資者組成的聯盟，支援印度的深科技創業公司。該聯盟於九月成立，承諾資金超過十億美元，與印度新推出的價值一萬億盧比（約合一百二十億美元）的研究與發展計劃同步。Nvidia 以戰略技術顧問身份加入，無財務承諾，而 Qualcomm Ventures 則與六家印度風險投資公司合作，帶來超過八億五千萬美元的額外資金。印度擁有超過十八萬家創業公司和一百二十家獨角獸企業。過去印度生態系統模仿西方商業模式，現已轉向服務全球客戶的 SaaS 公司，近期更聚焦於解決基礎設施級問題，如衛星發射、交通電氣化及半導體設計。為加速此轉變，Celesta Capital 發起印度深科技聯盟（IDTA），匯集七家主要美國與印度投資者，包括 Accel、Blume Ventures 等，並新增 Activate AI、Chiratae Ventures 等印度企業。聯盟計劃在未來五至十年投資並提供指導，與印度政府合作推動政策，包括近期批准的研發與創新（RDI）計劃。該計劃透過長期貸款、股權注入等方式支援能源、量子計算、機器人、太空科技、生物技術及 AI 領域。Nvidia 將提供技術指導、培訓及政策對話支援，Qualcomm 則除投資外還協助創業公司連線其投資組合與內部團隊。儘管資金規模仍低於發達市場，印度深科技融資在 2024 年同比增長 78% 達 16 億美元。聯盟旨在吸引全球關注與更多投資者，預計十年內將培育出在主要交易所上市的深科技企業。
-
Lambda 與微軟簽下數十億美元的 AI 基礎設施合作協議
雲端計算公司 Lambda 透過一項龐大的 AI 基礎設施協議，進一步深化與微軟的合作關係。Nvidia 後盾的 Lambda 於週一宣佈與微軟達成數十億美元的交易，將部署數萬張 Nvidia GPU，但具體金額未公開。部分裝置將為今年初宣佈並近期開始發貨的 Nvidia GB300 NVL72 系統。Lambda 執行長 Stephen Balaban 表示，與微軟合作超過八年，此次部署大型 AI 超級電腦是關係中的重大進展。微軟於十月開放了第一座 Nvidia GB300 NVL72 叢集。Lambda 成立於 2012 年，在當前 AI 熱潮前已籌得 17 億美元風險投資，目前正面臨強勁需求。此訊息緊接微軟宣佈與澳洲資料中心企業 IREN 達成 97 億美元的 AI 雲端容量協議。同日，OpenAI 宣佈與 Amazon 達成 380 億美元的雲端計算協議，期限為七年，且據傳九月已與 Oracle 簽下 3000 億美元的雲端運算合約。此外，Amazon 在第三季財報中報告營運收入有望創下三年來最佳成績，該部門今年已累積 3300 億美元營收。Amazon 執行長 Andy Jassy 指出，AWS 增長速度已回到 2022 年水準，年增率達 20.2%，並表示過去 12 個月已增加超過 3.8 吉瓦的容量，以應對 AI 與核心基礎設施的強勁需求。TechCrunch 已聯絡 Lambda 尋求更多關於交易結構與規模的資訊。