實體: GPT
所有提到 GPT 的 AI 新聞與動態。
-
你已經聽過這些 AI 名詞並點頭附和了;讓我們改變這狀況
這篇文章旨在澄清人工智慧領域中常見的術語,幫助讀者理解 AI 如何運作。文章首先定義了通用人工智慧(AGI),指出 OpenAI 將其視為能勝任大多數經濟高價值工作的自主系統,而 Google DeepMind 則認為其應具備與人類相當的認知能力。AI 代理(AI agent)被描述為能自主執行多步驟任務的工具,例如編寫、測試和除錯程式碼,這比基本的聊天機器人更進階。為了提升回答的準確性,大型語言模型(LLM)會使用「思維鏈」(Chain of thought)技術,將問題分解為中間步驟進行推理。 文章進一步解釋了基礎設施與硬體概念。API 端點是軟體的介面,允許不同應用程式整合;計算(Compute)則指代 GPU、TPU 等提供運算能力的硬體。深度學習(Deep learning)利用人工神經網路結構,能從資料中自動識別特徵,但需要大量資料和昂貴的訓練成本。生成式模型常使用擴散(Diffusion)技術,透過逆向過程從噪聲中還原資料,或運用生成式對抗網路(GAN)來產生逼真的影像。 知識轉移方面,知識精煉(Distillation)是用小型學生模型模仿大型教師模型,OpenAI 的 GPT-4 Turbo 便採用此技術。微調(Fine-tuning)則是用特定領域資料最佳化模型表現。文章也提及了模型常見的問題,如幻覺(Hallucination),即模型編造不存在的資訊,這促使開發者轉向垂直領域模型。推理(Inference)是模型執行並生成預測的過程,而記憶體壟斷(RAMageddon)則描述了因 AI 產業需求導致記憶體短缺和價格上漲的現象。 最後,文章介紹了訓練(Training)與權重(Weights)的概念,權重決定了資料特徵的重要性。驗證損失(Validation loss)用於監控模型是否過擬合。此外,還提到了強化學習(Reinforcement learning)及其變體 RLHF,以及 Token 作為 LLM 處理的基本單位,其吞吐量(Throughput)直接影響服務效率。整體而言,這篇文章涵蓋了從基礎架構到前沿研究的多個關鍵概念,並強調了該領域的快速演變。
-
這家晶片新創公司剛籌得1.35億美元,押注AI最大的瓶頸不是計算力,而是記憶體
每次向 ChatGPT 提問時,資料都會經過 CPU 預處理、GPU 運算及回傳的冗長流程,這造成巨大的能源消耗與成本。韓國與美國辦公室的新創公司 XCENA 正試圖解決此結構性瓶頸,其設計的 MX1 晶片將運算能力置於 DRAM 記憶體附近,使資料操作能在記憶體內直接處理,無需往返 CPU 與 GPU。XCENA 於今年 B 輪融資 1.35 億美元,估值達 5.7 億美元,總籌資額達 1.85 億美元。CEO 金進與 CTO 多勳金及 CPO 哈里·朱煥金均來自三星與 SK 海力士等記憶體巨頭。XCENA 認為推論不僅是運算問題,更是記憶體擴充套件問題,其 MX1 晶片透過 CXL 介面連線 CPU,能處理資料預處理、KV Cache 管理及資料快取等任務。公司宣稱原本需 10 臺伺服器的工作量,未來可能僅需一臺。由於記憶體需求自去年下半年激增,XCENA 預期 2026 年底由三星製程廠量產,2027 年起產生營收。其競爭對手包括 Nasdaq 上市的 Astera Labs 與 Marvell,XCENA 的差異化在於擁有數千個核心並垂直整合內部記憶體階層、互連匯流排及 DRAM 控制器。本輪融資由首爾的 Atinum 與 IMM Investment 領投,Corstone Asia 跟投,現有投資者包括 SBI Investment 與 Mirae Asset Capital。
-
Asana 收購無程式代理建構工具 StackAI
Asana 以 7500 萬美元收購工作流自動化公司 StackAI,此舉旨在將其定位為 AI 原生工作場所平臺。StackAI 創辦人 Tony Rosinol 和 Bernard Aceituno 將加入 Asana 團隊。此次收購是 Asana 轉向 AI 戰略的一部分,目標是將平臺構建為「人類與代理團隊的作業系統」。該公告於週四下午發布,與 Asana 的財報及投資者通話同步進行。StackAI 被設計為 AI 工作流自動化系統,其代理能在現有商業系統中運作,並從 Salesforce、Slack 和 Gsuite 等系統拉取資料。作為 Y Combinator Winter 23 班級的成員,該公司面臨來自 Zapier 等自動化工具以及 OpenAI 和 Anthropic 等 AI 實驗室激烈競爭。根據 PitchBook 資料,StackAI 籌資約 2000 萬美元,其中最近一輪 1600 萬美元的 A 輪融資佔比最大,投資方包括 Gradient、Epakon Capital、Lobby VC、LifeX Ventures 以及 Vercel 執行長 Guillermo Rauch。雖然使用者熟悉 Asana 的工作管理系統,但該公司近年推出了多款 AI 產品,最著名的是 AI Studio 自動化構建器和 AI Teammates 系列預置代理。Asana 認為其與現有企業工作流的深度整合是關鍵優勢,能提取其他無法獲得的上下文和訓練資料。Asana 在公開市場表現不佳,自 ChatGPT 推出以來市值縮減超過一半,這一趨勢在三月創辦人 Dustin Moskovitz 辭任執行長後加劇。儘管如此,營收持續穩步增長,新領導層對其人類代理產品能幫助公司反彈充滿信心。Asana 執行長 Dan Rogers 表示,此次收購加速了路線圖,使公司進入人類代理工作的下一個階段,並能進一步擴充套件 AI Teammates 和 AI Studio 的功能,端到端地自動化最複雜的商業流程。
-
類似黃金與石油,我們很快將能交易AI代幣期貨
「Tokenomics」目前指代加密貨幣的經濟學,但隨著人工智慧(AI)採用率飆升及計算資源供應緊缺,其定義可能迎來新變化。大型交易所正設計基於 AI 代幣的衍生產品,這些代幣正從單純的計算輸出轉變為類似電力或頻寬的基礎設施原材料輸入。中國上海期貨交易所(Shanghai Futures Exchange)據報正設計 AI 代幣的衍生市場。同時,主要衍生品交易所 CME Group 和泛歐交易所(Intercontinental Exchange,紐約證券交易所所有者)分別表示正在開發針對租 GPU 的期貨合約。GPU 市場雖仍在成熟中,但由於大量公司使用、銷售和租賃 GPU,現已存在強勁的現貨價格市場,通常按小時收費。根據 AI Mining Co. 的資料,該公司追蹤了 28 個市場和雲服務提供商的每日 GPU 租賃價格,在 13 個市場中,Nvidia H100 GPU 的中間價格範圍為每小時 1.40 至 4.27 美元,而在 10 個市場中,H200 GPU 的平均價格介於每小時 2.34 至 5 美元之間。僅過去七天,H100 GPU 的平均價格範圍為每小時 2.79 至 3.33 美元。ICE 和 CME 等交易所表示,計算市場正日益類似於全球大宗商品市場,而非傳統的雲市場。儘管 GPU 市場已成熟,但針對代幣本身的基礎設施仍較少,代幣是當代 AI 模型的基本構建塊。主要 AI 公司的企業計劃通常以代幣計價:例如 OpenAI 若使用其最新 GPT-5.5 模型的 API,每百萬輸入代幣收費 5 美元,每百萬輸出代幣收費 30 美元。甚至雲提供商也越來越多地提供按代幣收費的選項,如 Amazon 的 Bedrock 系統。這一趨勢發生在 AI 基礎設施前所未有的建設浪潮中,雲服務提供商、私募股權公司和基礎設施玩家均投入數百億美元建設資料中心,預期對 GPU 和計算的需求將持續上升。一群新興的全球新雲公司也在爭奪部分需求,其中一些專注於推理,另一些則與 Oracle、AWS 和 Google Cloud 等雲巨