實體: Amazon
所有提到 Amazon 的 AI 新聞與動態。
-
印度提供零稅至2047年以吸引全球AI運算需求
印度財政部長尼爾瑪拉·西塔拉曼在年度預算案中宣佈，為吸引全球 AI 投資，將為在印度資料中心運作的、向國外銷售的雲端服務提供至 2047 年的零稅優惠。此舉旨在應對電力短缺和水資源壓力，同時將印度定位為美國、歐洲及亞洲部分地區之外的重要計算基礎設施替代方案。美國科技巨頭紛紛加大在印投資，Google 承諾投資 150 億美元建立 AI 樞紐，Microsoft 計劃至 2029 年投資 175 億美元，Amazon 則計劃至 2030 年額外投資 350 億美元，總計約 750 億美元。國內方面，Digital Connexion 計劃投資 110 億美元在安得拉邦建設 10 億瓦 AI 資料中心，Adani 集團亦計劃投資 50 億美元。儘管如此，電力供應不穩定、高昂的電費及水資源匱乏仍是主要挑戰。 此外，印度政府進一步推動半導體與電子製造。第二階段印度半導體任務將聚焦於裝置材料生產及本土晶片智慧財產權，電子元件製造計劃預算從 2291.9 億盧比增至 4000 億盧比（約 43.6 億美元），並提供與產出掛鉤的激勵措施。針對 Apple 等依賴印度代工的外國企業，政府提出對在關稅區運營的電子裝置供應商給予五年稅免。同時，政府支援奧裡薩邦、喀拉拉邦等礦產豐富地區建立稀土走廊，以應對中國主導的稀土供應緊張局勢。最後，為促進跨境電商，政府將取消單次快遞出口 100 萬盧比（約 1.1 萬美元）的價值上限，並簡化退貨處理流程。整體而言，這些措施顯示印度致力於成為全球技術基礎設施長期樞紐，但其成功取決於能否有效解決執行層面的能源與水資源瓶頸。
-
Modelence 融資 300 萬美元優化 vibe-coding 技術堆疊
隨著 AI 工具普及軟體工程，新一代使用者渴望自行開發應用程式，但託管、安全及 DevOps 等傳統問題依然存在。Modelence 是一家今年夏天由 Y Combinator 孵化的加州公司，近日宣佈籌得三千萬美元種子輪融資，領投方為 Y Combinator，參與機構包括 Rebel Fund、Acacia Venture Capital Partners、Formosa VC 及 Vocal Ventures。儘管 Google、Amazon 及 Shuttle 等公司也在嘗試解決基礎設施問題，但 Modelence 的診斷方式獨具特色。執行長 Aram Shatakhtsyan 指出，問題不在於單一服務，而在於服務間的連線。他強調，若讓 AI 分別建立認證、資料庫並自行連線，極易導致系統崩潰。目前市場雖有 Vercel 處理前端、Supabase 處理資料庫等優質服務，但使用者仍需自行整合，往往形成兩個雲系統並存的局面，充滿錯誤風險。Modelence 的解決方案是提供一站式服務，其框架支援 TypeScript，由公司提供認證、資料庫、託管、LLM 可觀測工具及類似 Lovable 的應用程式建構器，旨在消除額外摩擦。然而，隨著程式相關工具景況變化迅速，Modelence 能否成功吸引使用者並跟上快速變化的市場，仍是一大挑戰。
-
微軟宣佈推出強大新晶片用於AI推論
微軟正式推出最新晶片 Maia 200，這是一款專為縮放 AI 推論設計的矽基工作馬。該晶片繼承自 2023 年發布的 Maia 100，在技術上進行了升級，能夠以更快的速度和更高的效率執行強大的 AI 模型。Maia 200 搭載超過 1000 億個電晶體，在 4 位元精度下可提供超過 10 拍 Flops 的運算能力，在 8 位元精度下則提供約 5 拍 Flops 的效能，這相比其前代產品有顯著提升。推論是指執行模型的計算過程，與訓練模型所需的計算不同。隨著 AI 公司成熟，推論成本日益成為營運成本的重要組成部分，因此最佳化該過程備受關注。微軟希望 Maia 200 能參與這一最佳化，讓 AI 業務在更低功耗和更少幹擾的情況下執行。據公司表示，單一 Maia 200 節點即可輕鬆執行當今最大的模型，並為未來更大模型留足餘地。 微軟的新晶片也反映了科技巨頭轉向自研晶片以減少對英偉達依賴的趨勢。例如，Google 擁有 TPU（張量處理單元），而 Amazon 則推出了 Trainium3。這些自研晶片可用於分流原本分配給英偉達 GPU 的計算任務，從而降低整體硬體成本。在微軟的宣告中，Maia 顯示出與這些替代方案的競爭力，其 FP4 效能是第三代 Amazon Trainium 晶片的三倍，FP8 效能則高於 Google 第七代 TPU。微軟表示，Maia 正在推動其超級智慧團隊的 AI 模型執行，並支援 Copilot 聊天機器人的操作。截至星期一，公司已邀請開發者、學者和前沿 AI 實驗室使用 Maia 200 軟體開發套件進行工作負載。
-
推理新創 Inferact 获得 1.5 億美元資金用於商業化 vLLM
開源專案 vLLM 的創作者已宣佈將其轉型為由風險投資支援的創業公司 Inferact，並成功籌得 1.5 億美元種子資金，估值達到 8 億美元。該輪融資由 Andreessen Horowitz 和 Lightspeed Venture Partners 共同領投，確認了 TechCrunch 此前的報導，指出 vLLM 已獲得 a16z 的投資。Inferact 的首次融資案例與近期 SGLang 專案轉化為 RadixArk 的情況相似，據悉 RadixArk 由 Accel 領投，估值為 4 億美元。隨著人工智慧關注點從模型訓練轉向在應用中部署，即推論階段，能夠讓這些 AI 工具執行得更快且更經濟的技術，如 vLLM 和 SGLang，正吸引投資者關注。vLLM 和 SGLang 均於 2023 年在 Databricks 共同創辦人 Ion Stoica 的加州大學伯克利分校實驗室孵化。Inferact 執行長 Simon Mo，也是該專案的原始創作者之一，曾向 Bloomberg 表示，vLLM 的現有使用者包括 Amazon 的雲端服務以及購物應用程式。