Niv-AI 離開隱形模式以挖掘 GPU 的更高性能表現

電力是人工智慧發展的關鍵原材料，但新的處理技術已超出資料中心運營商管理與電力閘道器係的能力，迫使他們削減高達 30% 的負載。英偉達執行長詹森·黃在年度 GTC 客戶大會上指出，這些 AI 工廠浪費了大量電力，每一瓦未使用的電力都代表營收損失。為解決此問題，特拉維夫新創公司 Niv-AI 已從隱形狀態中走出，獲得 1200 萬美元種子資金。該公司由執行長託默·提莫爾和技術長愛德華·基茲於去年創立，獲得 Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward 和 Aurora 等機構投資。由於前沿實驗室同時運算元千顆 GPU 進行訓練與推演，處理器在切換計算任務與與其他 GPU 通訊時會產生毫秒級別的電力需求尖峰，這使得資料中心難以從電網管理電力。為避免斷電，資料中心需購買臨時儲能裝置或削減 GPU 使用，兩者均降低了昂貴晶片投資的回報率。Grove Ventures 的合夥人利奧爾·漢德爾曼表示，資料中心無法再以現有方式繼續建設。Niv-AI 的第一步是部署機櫃級感測器，在毫秒級別檢測其擁有及合作夥伴 GPU 的電力使用情況，以瞭解不同深度學習任務的具體電力特徵，並開發緩解技術以釋放現有容量。工程師計劃利用收集的資料建立 AI 模型，訓練其預測並同步資料中心內的電力負載，作為資料中心工程師的「助手的角色」。Niv-AI 預計在未來六到八個月內，在美國少數資料中心推出可執行的系統。面對超規模企業在建設新資料中心時面臨的土地使用與供應鏈障礙，Niv-AI 的創始人將其最終產品視為資料中心與電力網之間的缺失「智慧層」。提莫爾表示，電網害怕資料中心在特定時間消耗過多電力，而他們面臨的是兩端繩索的問題，既要幫助資料中心更充分利用 GPU 並發揮已付費電力的效能，也要在資料中心與電網之間創造更負責任的電力曲線。