「給我token。只要給我token。我想要快速、便宜、現在就要。」這句口號是開發者在使用生成式AI模型進行軟體開發時的信念，至少這是Parasail創辦人Mike Henry所聽到的。Parasail為運行AI模型進行推理的公司提供雲端計算服務，Henry告訴TechCrunch，該公司每天產生5000億個token。這就是所謂的tokenmaxxing！Henry曾擔任Groq的高階主管，Groq是一家專注於大型語言模型（LLM）的晶片製造商，他在該公司建立了雲端服務，這項服務早期就預見到開發者在使用AI模型進行軟體開發時，會需要專門為其需求設計的雲端處理能力。現在，Parasail在一年前退出隱藏模式後，已獲得3200萬美元的A輪融資，目標是規模化實現這項服務。
Henry有物理晶片設計的背景，但Parasail並未專注於擁有自有晶片。雖然部分GPU是自有，但該公司主要透過全球15個國家的40個數據中心租用處理時間，並從流動性市場購買更多計算資源，所有這些都在後台進行協調，以降低推理請求的成本。透過巧妙分配工作負載並避免需求高峰，該公司希望與擁有自有晶片且可能受既有客戶承諾與工作負載限制的公司競爭。
該公司的潛力依賴於開放來源模型與代理在邊界實驗室之外的持續擴散。Parasail的執行長與投資人表示，這是由於使用Anthropic與OpenAI等公司服務的費用與摩擦不斷增加所驅動。根據Elicit創辦人Andreas Stuhlmüller的說法，一種混合架構正在興起。Elicit是一家獲得2200萬美元A輪融資的創業公司，專注於開發科學文獻的研究助理。他的客戶來自頂級製藥公司，使用基於LLM的工具來檢閱與分析數萬篇科學論文的數據。Stuhlmüller告訴TechCrunch，他們越來越傾向使用開放模型，因為將數萬個請求發送到API端點會很困難，尤其是在公司現在依賴代理來提升服務品質的情況下，將任務拆分並在更長的時間範疇內進行策略性運作。開放模型處理初始篩選以降低工作成本，之後再由更強大的邊界模型提供最終答案。
隨著代理成為軟體開發越來越常見的一部分，模型查詢的增加正在推動對如Parasail這樣提供便宜推理基礎設施的公司的投資。Touring Capital的合夥人Samir Kumar，這輪融資的共同領投人之一，告訴TechCrunch，他預期未來構建軟體的成本中，至少有20%將用於推理。那麼，Parasail能佔據多少市場呢？
在競爭激烈的雲端計算領域，Henry認為，該公司專注於推理（不允許訓練）以及願意承接沒有長期承諾的創業公司客戶，使其服務與專注於企業業務的大型雲端計算公司，以及雲端推理領域中資金更充足的競爭對手（如Fireworks AI和Baseten）有所不同。當然，當所有客戶都是不穩定的AI領域種子期與A輪創業公司時，風險類型也會不同。Kindred Ventures的合夥人Steve Jang，這輪融資的另一共同領投人，表示模型部署的經濟學將需要像Parasail所提供的計算代理服務。這還是在模型廣泛用於內容生成與機器人領域之前的事。他告訴TechCrunch：「大家都認為有AI泡沫。其實沒有AI泡沫。」「推理需求遠遠超過供應。」