跳至內容
AI 新聞站
返回

Anthropic 正經歷一場月度風暴

Anthropic 建立了其公開形象,圍繞一個成功的理念,即它是一家謹慎的 AI 公司。它會發表詳細的 AI 風險研究,聘請一些該領域最優秀的研究人員,並公開談論在開發如此強大技術時所承擔的責任 —— 當然,它也因此正在與國防部進行一場激烈的爭議。然而,在星期二,不幸的是,有人忘了勾選一個選項。這並不是第一次在這週內發生。上週四,《財富》雜誌報導,Anthropic 遺失了近 3,000 個內部文件,意外公開在網路上,包括一篇描述公司尚未宣布的新強大模型的部落格草案。以下是星期二發生的事情:當 Anthropic 發布其 Claude Code 軟體套件的 2.1.88 版本時,意外包含了一份文件,揭露了近 2,000 個原始碼文件以及超過 512,000 行的程式碼 —— 這基本上是其最重要的產品之一的完整架構藍圖。一位名叫 Chaofan Shou 的安全研究員幾乎立即注意到這個問題,並在 X 上發文說明。Anthropic 對多家媒體發表的聲明則相當輕描淡寫:「這是因為人為錯誤造成的發佈打包問題,並非安全漏洞。」(當然,內部的反應可能沒有這麼輕鬆。)Claude Code 不是一個小產品。它是一個命令列工具,讓開發者可以使用 Anthropic 的 AI 來撰寫與編輯程式碼,已經強大到足以讓競爭對手感到不安。根據《華爾街日報》報導,OpenAI 在推出視訊生成產品 Sora 六個月後就決定停用該產品,以便專注於開發者與企業的業務 —— 部分原因在於 Claude Code 的勢頭不斷增長。這次洩漏的並不是 AI 模型本身,而是圍繞該模型的軟體結構 —— 也就是告訴模型該如何行為、使用哪些工具以及其限制的指令。開發者幾乎立即開始發表詳細分析,其中一位形容該產品為「一個生產級的開發者體驗,而不僅僅是 API 的包裝。」這是否會產生長期影響,這個問題還是留給開發者來評估比較好。競爭對手或許會從這項架構中獲得啟示;同時,這個領域的發展速度也非常快。不管如何,在 Anthropic 內部,可以想像有某位非常優秀的工程師,整個下午都在靜靜地思考自己是否還會有工作。也只能希望這位工程師或工程團隊,不是來自上週末的那一次。


分享這篇文章:

上一篇
Mercor 表示其遭涉及開放來源 LiteLLM 專案遭入侵的網路攻擊
下一篇
Salesforce 公告將 Slack 進行以 AI 為核心的全面革新,新增 30 個功能