這家晶片新創公司剛籌得1.35億美元，押注AI最大的瓶頸不是計算力，而是記憶體

每次你向ChatGPT提問時，這個請求都會觸發一場資料傳輸競賽。資訊離開記憶體，經過CPU進行預處理，傳送到GPU進行大量計算，然後再傳回 —— 而這整個過程會為每個AI產生的單字重複進行。這個瓶頸是結構性的，意味著每次請求都必須經過一些行業中最昂貴且耗電的晶片。這種低效率正是XCENA這個新創公司試圖解決的問題。這個成立四年的新創公司設計了一種晶片，將計算能力放置得更接近DRAM —— 這是一種快速、短暫記憶的晶片，用來儲存處理器正在使用的資料 —— 讓常見的資料操作可以在記憶體附近處理，而無需花費昂貴的CPU、GPU與記憶體之間的往返行程。如果在大規模應用上成功，對AI基礎設施成本的影響可能是顯著的，這也是投資人對這家公司熱情的主要原因。事實上，XCENA最近在B輪融資中籌得了1.35億美元，當時的評估價值為5.7億美元，使其總籌資額達到1.85億美元。XCENA創始人金京（Jin Kim）在2022年與首席技術官金多訓（Dohun Kim）和首席產品官金慧允（Harry Juhyun Kim）共同創辦了這家公司，他們都是三星與SK Hynix這兩家記憶體巨頭的資深員工。金京在接受TechCrunch專訪時表示：「CPU與GPU在過去幾十年中都變得更聰明了，但記憶體卻沒有。XCENA想要改變這一點。」他補充道：「近期記憶體價格與相關股票的上漲，顯示出AI基礎設施正朝向以記憶體為中心的架構轉變。」（這月，全球記憶體晶片市場的三大龍頭公司——三星、SK Hynix與Micron——各自首次突破千億美元的市值。）金京表示，XCENA的業務建立在這樣一個假設之上：「推理不僅僅是計算問題；它越來越成為記憶體擴充的問題。」XCENA的晶片MX1透過CXL（Compute Express Link）連接到CPU —— 這是一種處理器與記憶體之間的專用快速通道 —— 在資料需要離開記憶體模組之前就進行處理。這種設計讓計算靠近資料，而不是讓資料靠近計算。公司聲稱，過去需要10台伺服器才能完成的工作，現在只需一台就能處理。金京表示：「雖然GPU擅長矩陣乘法 —— 這是在AI模型訓練背後進行的大量數學運算 —— 但許多周圍的資料協調工作，包括預處理、KV快取管理（用來儲存先前對話內容，讓模型無需重新處理）以及資料快取，仍然在CPU上進行。我們的晶片會直接在記憶體模組內處理這些任務。」自去年下半年以來，對記憶體解決方案的需求急劇上升，公司認為時機對他們有利。與幾個全球記憶體供應商的對話還處於早期階段，不過金京拒絕透露他們的名稱。公司理想的客戶是每年在AI基礎設施上花費數十億美元的超大型雲服務商，即使記憶體效率有小幅提升，也能節省數百萬美元的開銷。MX1目前仍為原型晶片。大規模生產的晶片預計將在2026年底由三星的晶圓廠生產，公司預計從2檔開始產生收入。雖然神經處理單元（NPU）製造商正在競爭以挑戰Nvidia在訓練工作負載上的地位，XCENA則瞄準了位於其底層的記憶體密集層。XCENA的最接近競爭對手包括Astera Labs與Marvell，這兩家都是納斯達克上市的公司，正在開發下一代記憶體連接技術。金京表示，Marvell已經是一家規模較大、經驗豐富的公司，正在這個領域進行相同的工作，但區別在於專利技術。他表示：「我們擁有數千個核心。」根據公開規格，Marvell的設計依賴於少數幾個通用核心。這些核心是基於開放原始碼的晶片設計藍圖RISC-V，並特別針對資料處理進行優化，每個核心都被刻意設計得較小且高效。除了核心本身之外，XCENA還自行設計其內部記憶體層級、互聯總線以及DRAM控制器 —— 這種垂直整合的程度，通常是包括較大競爭對手在內的許多晶片公司會外包的領域。首爾的風險投資公司Atinum與IMM Investment領投了這輪B輪融資，與Corstone Asia以及現有投資者SBI Investment與Mirae Asset Capital一同參與。這家總部設在首爾郊外科技園區Pangyo與美國聖克拉拉Sunnyvale的公司，目前也在與國際投資者進行進一步資金籌措的對話。