消息人士透露：Project SGLang 擅長推理市場爆發，以4億美元估值獨立為 RadixArk

AI 基礎設施領域正出現新趨勢，熱門的開源工具正轉化為價值數億美元的風險投資支援的創業公司。最新案例是 RadixArk，該公司背後的 SGLang 是一個日益流行的工具，能幫助 AI 模型執行得更快更便宜。根據兩位熟悉此事的人士透露，RadixArk 在由 Accel 主導的融資輪中估值約為 4 億美元，這對於一家僅於去年八月宣佈成立的創業公司而言是一筆顯著的資金。TechCrunch 未能確認該融資規模。此訊息出於 SGLang 維護團隊部分成員已轉移到新成立的商業公司 RadixArk 的背景下。SGLang 起源於 2023 年，位於 Databricks 聯合創始人 Ion Stoica 的加州大學伯克利分校實驗室。該創業公司此前從包括 Intel 執行長 Lip-Bu Tan 在內的投資者那裡籌集了天使輪資金。Ying Sheng 作為 SGLang 的關鍵貢獻者及前 xAI 工程師，已離開 Elon Musk 的 AI 創業公司成為 RadixArk 的聯合創始人兼執行長。RadixArk 的 Ying Sheng、Accel 和 Lip-Bu Tan 均未回應求證。SGLang 和 RadixArk 都專注於最佳化推理處理，使模型在相同硬體上執行更快更有效率。推理與模型訓練一起構成了 AI 服務伺服器成本的大部分，因此最佳化該過程可立即產生巨大節省。RadixArk 並非獨一無二，vLLM 這個更成熟的推理最佳化專案也已跨越此門檻。新成立的 vLLM 公司據 Forbes 上月報導，正在與投資者討論籌集高達 1.6 億美元的資金，估值約為 10 億美元，Andreessen Horowitz 據稱正主導該投資，但最終數字尚未確定。Andreessen Horowitz 拒絕評論，vLLM 聯合創始人 Simon Mo 在宣告中稱有關此輪的資訊「事實不準確」，但拒絕具體說明哪些細節錯誤。與 SGLang 一樣，vLLM 也是在 Ion Stoica 的伯克利實驗室孵化而成。Stoica 是加州大學伯克利分校教授，也是 Databricks 及其他多家創業公司的知名聯合創始人。許多大型科技公司已使用 vLLM 執行推理工作負載，SGLang 也在過去