實體: Nvidia
所有提到 Nvidia 的 AI 新聞與動態。
-
Gimlet Labs 發展創新方案精巧解決 AI 推論瓶頸
斯坦福兼任教授兼成功退出創始人 Zain Asgar 近日為解決 AI 推論瓶頸問題的初創公司 Gimlet Labs 籌資 8000 萬美元進行 A 輪融資，該輪由 Menlo Ventures 領投。Gimlet Labs 宣稱打造了全球首個「多矽推論雲」，這是一種允許 AI 工作負載同時在多種硬體上執行的軟體。該軟體能將 AI 應用程式的工作分佈於傳統 CPU、AI 調優的 GPU 以及高記憶體系統之間。Menlo Ventures 的 Tim Tully 指出，目前沒有任何晶片能同時滿足推論、解碼和工具呼叫等不同硬體需求，而隨著新硬體推出和舊 GPU 重新部署，Gimlet Labs 提供的多矽艦隊已準備就緒，僅缺軟體層面。McKinsey 估計，若當前增加運算趨勢持續，資料中心支出到 2030 年將達近 7 兆美元，但現有硬體利用率僅約 15 至 30%。Gimlet Labs 的目標是讓 AI 工作負載效率提升 10 倍。 Gimlet Labs 的創始團隊包括 Michelle Nguyen、Omid Azizi 和 Natalie Serrino，他們開發了 orchestration 軟體以將代理工作負載切分並同時分佈於各類硬體。據公司宣稱，其產品在相同成本和功耗下可將 AI 推論速度提升 3 至 10 倍，甚至能將底層模型切分至不同架構並使用最佳晶片。Gimlet Labs 已與 NVIDIA、AMD、Intel、ARM、Cerebras 和 d-Matrix 等晶片廠商合作。其產品透過軟體或 API 形式交付，主要面向大型 AI 模型實驗室和資料中心，而非普通開發者。公司於十月公開上市，首月即實現八位數營收。客戶基礎在過去四個月內翻倍，已包含一家主要模型製造商和一家極大雲端計算公司。創始人此前曾在 Pixie 共事，該公司於 2020 年被 New Relic 收購。Gimlet Labs 目前僱用 30 人，總籌資額達 9200 萬美元，投資方包括 Sequoia 的 Bill Coughran、
-
你想打造一個機械雪人嗎？
在 NVIDIA 舉辦的 GTC 大會上，執行長 Jensen Huang 發表了關於 OpenClaw 策略的宏觀宣言，指出每家企業都應制定相關策略。由於 NVIDIA 的創辦人已轉投 OpenAI，OpenClaw 作為開放原始碼專案的未來走向備受關注。TechCrunch 的 Kirsten Korosec、Sean O'Kane 與 Anthony 在播客節目中回顧了黃氏的演講並展開討論。Kirsten 指出，NVIDIA 推出 NemoClaw 開放原始碼專案的成本極低，但若無作為則可能面臨巨大風險，這將成為企業合作的新途徑。Sean 則質疑為何未討論將 NVIDIA 轉化為首家千億美元公司的終極目標，即與迪士尼合作的 Olaf 機器人。節目中展示了 Olaf 機器人的演示，該機器人因口若懸河而被迫關閉麥克風，隨後緩緩降下。Sean 認為雖然工程挑戰令人印象深刻，但忽略了社會層面的灰色地帶，例如兒童踢倒機器人後對品牌造成的負面影響。Kirsten 則反駁稱，此類實驗實際上能創造工作機會，例如需要人類保姆在迪士尼樂園照顧機器人。整體而言，這場討論凸顯了機器人技術在工程與社會整合之間的張力。
-
AI 核心技術是新簽約獎金還是業務成本？
本週，人工智慧 tokens 作為薪酬的一部分成為矽谷焦點。Nvidia 執行長 Jensen Huang 在年度 GTC 活動提出，工程師應獲得約一半基本薪資的 tokens，其頂尖人員每年可能消耗 25 萬美元的金額。投資組合管理師 Tomasz Tunguz 指出，根據 Levels.fyi 資料，頂部四分位軟體工程師薪資為 37.5 萬美元，若加上 10 萬美元 tokens，總薪酬達 47.5 萬美元，其中約五分之一為計算資源。OpenClaw 等自主執行工具的興起加速了此趨勢，工程師使用 tokens 的速度遠超一般使用者，甚至出現 Meta 與 OpenAI 工程師在內部排行榜競爭 tokens 消耗量的現象。然而，專家警告這可能並非單純福利。若公司為員工提供相當於第二個工程師的計算資源，隱含壓力是產出雙倍工作成果。此外，當計算成本接近或超過薪資時，財務團隊可能認為減少人力編制更具經濟效益。Jamaal Glenn 指出，tokens 不像薪資或股權那樣會累積增值，公司可能以此方式在不增加現金或股權的情況下提高薪酬包價值。因此，工程師需謹慎評估此趨勢是否真正有利於自身職業安全與長期利益。
-
為何華爾街未被 NVIDIA 大會說服
英偉達執行長黃仁勳於週一在年度 GTC 演講中發表了長達兩小時的熱情演講，但英偉達股價卻因此下跌。Wall Street 投資者對其樂觀的觀點反應冷淡，反而更關注人工智慧未來的不確定性及泡沫風險。黃仁勳在演講中展示了公司最新創新，包括遊戲圖形技術、更新的網路基礎設施、自主車輛合約，以及與 Groq 合作設計的新晶片，旨在加速 Vera Rubin 系統中的 AI 推論。他還提出了令人咋舌的數字，稱 AI 代理生態系統市場規模為 35 兆美元，實體 AI 與機器人產業為 50 兆美元，並預計到 2027 年底，Blackwell 和 Vera Rubin 晶片的訂單將達到 1 兆美元。 儘管數字龐大，投資者仍顯焦慮。Futurum 執行長 Daniel Newman 向 TechCrunch 表示，市場討厭不確定性，而 AI 的迅速發展與變革速度正是這種新不確定性的來源。Newman 指出，關於企業 AI 採用率低的新聞標題並未反映全貌，許多資料僅為六個月前的報告，實際上的企業 AI 採用率將很快達到轉折點與規模。這與英偉達過去的財務表現相符，其營收去年同比增長 73%，且持續超越預期。例如，英偉達確認 Amazon 計劃在 2027 年底前為 AWS 購買 100 萬顆 GPU 及其他 AI 基礎設施。Zacks Investment Research 資深股權策略師 Kevin Cook 也同意 Newman 的看法，認為整個股市都依賴英偉達支撐，因為其技術執行著許多企業的基礎設施，甚至包括卡特彼勒等硬體與軟體公司。 雖然目前可能存在 AI 泡沫，但 broader 的不確定性似乎並非英偉達的問題。黃仁勳在演講中強調英偉達是一家平臺公司，擁有技術、平臺及豐富的生態系統，目前全球約 100 兆美元的產業都與之相關。英偉達正全速前進，帶動整個全球經濟一同前行。