Anthropic 是否限制發佈 Myths 以保護互聯網或自身？

Anthropic 本週宣佈限制其最新模型 Mythos 的公開發布，原因是該模型在尋找全球使用者依賴的軟體安全漏洞方面能力過強。原本計劃向公眾開放的模型，現在將僅與運營關鍵網路基礎設施的大型企業和組織分享，範圍涵蓋 Amazon Web Services 至 JPMorgan Chase 等機構。OpenAI 據報正考慮採取類似的策略。此舉表面上是為了讓大型企業能先於惡意行為者利用先進的語言模型滲透安全軟體，但背後可能涉及更深的商業考量。AI 網路安全實驗室 Irregular 的執行長 Dan Lahav 曾指出，AI 工具發現漏洞的具體價值取決於攻擊者如何結合使用，關鍵在於這些漏洞是否能在單獨或組合情況下被有效利用。雖然 Anthropic 聲稱 Mythos 的漏洞挖掘能力遠超前代模型 Opus，但業界對其是否為網路安全領域的終極解決方案存疑。AI 安全起點公司 Aisle 表示，他們能使用較小的開放權重模型複製 Mythos 的大部分功能，這顯示網路安全並非依賴單一深度學習模型，而是取決於具體任務。限制發布的另一個原因可能是為了建立大型企業合約的飛輪效應，並增加競爭對手透過蒸餾技術低成本複製模型的難度。軟體工程師兼起點公司 exe.dev 的執行長 David Crawshaw 指出，這種策略將頂級模型鎖定在企業協議中，使小型實驗室無法進行蒸餾，從而確保企業營收持續流動。這反映了 AI 生態系統中前沿實驗室與依賴多模型策略的起點公司之間的競爭，後者常利用來自中國的開放原始碼模型尋求經濟優勢。今年前沿實驗室對蒸餾採取更嚴厲態度，Anthropic 公開揭露中國企業複製其模型的企圖，而 Anthropic、Google 和 OpenAI 三家實驗室更聯合識別並阻擋蒸餾者。阻擋蒸餾對前沿實驗室的商業模式至關重要，因為這消除了透過大量資本規模化帶來的優勢。因此，選擇性發布不僅是保護網路安全的負責做法，也是實驗室保護底線並區分企業產品類別的策略。儘管 Mythos 是否真正威脅網路安全仍有待觀察，但謹慎的發布方式確實能兼顧網路安全與商業利益。