不規則取得8000萬美元資金以確保邊境AI模型

美國 AI 安全公司 Irregular 於週三宣佈獲得 8000 萬美元的新資金，該輪融資由 Sequoia Capital 和 Redpoint Ventures 主導，Wiz 執行長 Assaf Rappaport 亦參與投資。據知情人士透露，此輪融資將 Irregular 的估值定為 4.5 億美元。Irregular 前身為 Pattern Labs，目前已是 AI 評估領域的重要參與者，其工作成果被引用於 Claude 3.7 Sonnet、OpenAI 的 o3 及 o4-mini 模型的安全評估中。公司廣泛使用的 SOLVE 框架用於評分模型的漏洞檢測能力。此次融資旨在更宏大的目標，即透過模擬環境在模型正式發布前識別新興風險與行為。創辦人 Omer Nevo 表示，他們建立了複雜的網路模擬系統，讓 AI 同時扮演攻擊者與防禦者角色，以測試新模型的防禦機制。隨著 OpenAI 本夏季為防範企業間諜活動而重組內部安全措施，以及 AI 模型日益擅長尋找軟體漏洞，AI 產業的安全議題備受關注。Irregular 創辦人 Dan Lahav 指出，雖然 frontier lab 的目標是創造更先進的模型，但安全是動態目標，未來仍需投入大量工作。