ZeroDrift籌集1000萬美元資金以保護AI模型不受自身威脅

企業在調試其AI系統時，治理問題已成為一個關鍵挑戰。一些企業採用雙重策略：一個模型用來處理即時查詢，另一個模型則用來防止第一個模型陷入麻煩。這正是新興的AI合規服務ZeroDrift的運作理念。該公司周二表示，已從包括a16z Speedrun、Reign Ventures、Pitchdrive和U&I Ventures在內的投資者手中籌得1000萬美元的種子輪資金。ZeroDrift專注於系統的第二部分，位於AI模型與最終用戶之間，用來標記並取代任何可能違反合規要求的訊息。乍看之下，建立一個用來修正其他AI系統錯誤的AI工具似乎有些奇怪，但ZeroDrift表示，其系統在架構上有幾個優勢，使其比它所修正的模型更具優勢。該系統由傳統程式觸發，這些程式會確定性地套用已知的合規標準，例如SOC 2或GDPR，一旦訊息被標記，就會啟動LLM來重寫符合規範的版本。ZeroDrift首席執行長Kumesh Aroomoogan表示：「我們能夠確定性地識別出所有受規範的領域，並找出被違反的規則，然後讓LLM來進行重寫。」關鍵在於，該公司表示其整個系統的運行速度更快、可靠性更高，這也是ZeroDrift與OpenAI和Anthropic等大型實驗室相比的主要優勢，因為這些大型實驗室的模型往往已經內建於系統之中。最明顯的應用場景是AI聊天機器人，這些機器人已經部署在面對消費者前線，任何錯誤的回應都可能帶來嚴重後果。然而，Aroomoogan認為潛在的總市場規模更大，可能涵蓋僅在自動化系統內產生、人類從未見過的AI生成訊息。目前這個市場相對較小，但隨著AI的普及，這個市場將會成長。從籌資情況來看，這類產品的需求似乎相當強勁。Aroomoogan表示：「這可能是我人生中籌資最快的經歷。」他感謝Andreessen Horowitz協助構建種子輪資金。他表示：「我們在三個星期內完成籌資，而且資金額將達到原目標的三倍。」