這家新創公司押注 tokenmaxxing 將創造下一個計算巨頭

Parasail 執行長 Mike Henry 表示，開發者對生成式 AI 模型的請求頻繁且急迫，Parasail 每日處理的 token 數量高達 5000 億。Parasail 提供雲端運算服務，專注於 AI 模型的推理（Inference）而非訓練，並已籌得 3200 萬美元 A 輪融資。與專注於硬體製作的 Groq 不同，Parasail 主要透過在全球 15 個國家 40 個資料中心租購 GPU 處理時間，並利用流動市場購買更多算力，透過聰明分配工作負載來降低推理成本。這種混合架構的興起，部分源於使用 Anthropic 和 OpenAI 等公司服務的成本與摩擦日益增加。Elicit 執行長 Andreas Stuhlmüller 指出，由於代理（Agents）技術的普及，將數萬次請求傳送給 API 端點變得困難，因此轉向開源模型進行初步篩選，再由前鋒模型提供最終答案。投資方 Touring Capital 的 Samir Kumar 預期推理成本將佔軟體開發總成本的至少 20%。Parasail 透過不允許訓練、接受早期客戶且無長期承諾的策略，試圖在 Fireworks AI 和 Baseten 等競爭對手中脫穎而出。儘管客戶多為種子輪或 B 輪起家的新創公司，但 Kindred Ventures 的 Steve Jang 認為 AI 泡沫已過，推理需求遠超供應，模型部署的經濟學將依賴於 Parasail 提供的運算仲介服務。