跳至內容
AI 新聞站
返回

Anthropic 正經歷一場月度風暴

安提洛普(Anthropic)一直致力於建立其「謹慎的 AI 公司」公眾形象,透過發布詳細的 AI 風險研究、僱用頂尖研究人員以及積極討論強大技術的責任來塑造品牌。然而,該公司近期因兩次疏忽性洩漏而陷入與美國國防部的爭議。上週四,福布斯報導安提洛普意外公開了近三千份內部檔案,包含一篇尚未發布的新模型草稿。本週二,情況再次發生:當安提洛普推出其 Claude Code 軟體包版本 2.1.88 時,意外包含了一個檔案,導致近兩千個原始碼檔案及超過五十一萬二千行原始碼公開。這套原始碼本質上是其重要產品之一的完整架構藍圖。

安全研究員肖(Chaofan Shou)幾乎立即注意到此問題並在 X 平臺發布。安提洛普對外宣告稱這是因人類錯誤導致的發布包裝問題,而非安全漏洞。Claude Code 是一款讓開發者使用安提洛普 AI 撰寫和編輯程式碼的終端工具,其發展動能已足以讓競爭對手感到不安。據華爾街日報報導,OpenAI 在推出影片生成產品 Sora 僅六個月後便將其下架,部分原因便是為了應對 Claude Code 的增長勢頭。洩漏的內容並非 AI 模型本身,而是圍繞模型的軟體架構,包括指示模型行為、使用工具及限制範圍的指令。開發者隨即開始發布詳細分析,其中一人將該產品描述為「生產級開發者體驗,而非僅是 API 的包裝」。儘管競爭對手可能從中獲得啟示,但該領域變化迅速。無論結果如何,安提洛普內部的某位工程師可能正擔心自己是否還有工作,希望不是同一位或同一團隊,因為上週四也發生了類似事件。


分享這篇文章:

上一篇
Mercor 表示其遭涉及開放來源 LiteLLM 專案遭入侵的網路攻擊
下一篇
Salesforce 公告將 Slack 進行以 AI 為核心的全面革新,新增 30 個功能