來源類型: 新聞
「新聞」來源類型(news=新聞 / paper=論文 / blog)的 AI 內容。
-
OpenAI 和 Google 員工急於為 Anthropic 謝責 DOD 起訴案
超過 30 名 OpenAI 與 Google DeepMind 員工於週一提交宣告，支援 Anthropic 對美國國防部提起的訴訟。這份由包括 Google DeepMind 首席科學家 Jeff Dean 在內的簽署人提交的amicus brief指出，國防部將 Anthropic 標記為供應鏈風險是濫用權力且武斷的舉動，對行業造成嚴重影響。此前，五角大樓因 Anthropic 拒絕允許其技術用於大規模監控美國人或自動發射武器，將其列為供應鏈風險，此標籤通常僅用於外國對手。國防部曾主張應能將 AI 用於任何「合法」目的，不受私人承包商限制。在 Anthropic 對國防部及其他聯邦機構提起兩起訴訟後數小時，這份支援檔案便出現在案卷中。檔案指出，若五角大樓不再滿意與 Anthropic 的合約條款，本可直接取消合約並購買其他領先 AI 公司的服務。事實上，國防部在將 Anthropic 標記為風險後不久便與 OpenAI 簽訂了協議，引發許多 ChatGPT 開發者員工抗議。檔案警告，若允許此懲罰行動繼續，將損害美國在人工智慧領域的工業與科學競爭力，並寒蟬業界關於 AI 系統風險與益處的公開討論。檔案亦確認 Anthropic 設定的紅線是合理的擔憂，強調在缺乏公共法律管束的情況下，開發者強加的合約與技術限制是防止災難性濫用的關鍵防護。許多簽署此宣告的員工也簽署公開信，敦促國防部撤銷該標籤，並呼籲公司領導人支援 Anthropic，拒絕單方面使用其 AI 系統。
-
Anthropic 發布代碼審查工具以檢查大量 AI 產生的代碼
Anthropic 推出名為 Code Review 的 AI 審查工具，旨在解決因「vibe coding」趨勢導致的大量程式碼生成所帶來的錯誤與安全風險。該產品於週一在 Claude Code 中正式上線，主要針對企業客戶，包括 Uber、Salesforce 和 Accenture 等。由於 Claude Code 的產出量激增，導致 Pull Request 審查成為瓶頸，Code Review 透過多代理架構自動分析程式碼變更，直接於 GitHub 上提供評論與建議修復方案。該系統專注於邏輯錯誤而非程式碼風格，並使用紅、黃、紫三色標記問題嚴重性。審查過程由多個代理並行執行，最後由總代理整合結果，平均每次審查成本約為 15 至 25 美元。此工具整合了輕量級安全分析，並可根據內部最佳實踐自訂檢查專案。Anthropic 表示，隨著企業對快速開發與減少錯誤的需求增加，此產品將協助企業在更少的錯誤情況下加速軟體開發。
-
OpenAI收購Promptfoo以強化其AI代理
OpenAI 於週一宣佈收購 Promptfoo，這是一家於 2024 年成立的 AI 安全起點公司，旨在保護大型語言模型免受網路敵對行為的侵害。根據 OpenAI 的部落格文章，一旦交易完成，Promptfoo 的技術將整合進其企業平臺 OpenAI Frontier，該平臺專門用於 AI 代理。雖然獨立 AI 代理執行數位任務的發展帶來了生產力提升的期待，但也為惡意行為者提供了接觸敏感資料或操縱自動化系統的契機。此次收購突顯了前沿實驗室如何努力證明其技術能在關鍵商業運作中安全使用。Promptfoo 由 Ian Webster 和 Michael D'Angelo 創立，開發供公司測試大型語言模型安全漏洞的工具，包括一個開源介面和庫。據公司報告，其產品被超過 25% 的財富 500 強公司使用。Promptfoo 自成立以來僅籌資 2300 萬美元，根據 PitchBook 資料，其於 2025 年 7 月最近一輪融資後估值為 8600 萬美元。OpenAI 未透露此次交易的具體價值。OpenAI 表示，Promptfoo 的技術將使其代理平臺能夠執行自動化紅隊測試、評估代理工作流的安全問題，並監控活動以滿足風險和合規需求。公司還表示預期將繼續擴充套件 Promptfoo 的開源方案。
-
Anthropic 起訴防衛部隊因供應鏈風險標籤
安提克（Anthropic）已兌現承諾，在國防部（DOD）將其標記為供應鏈風險後，向法院提出挑戰。該公司於週一在加州和華盛頓特區分別提起兩項訴訟，起因是雙方就軍事是否應無限制訪問其 AI 系統產生長期衝突。安提克堅持兩條紅線：不願其技術用於美國大規模監控，且認為其 AI 尚未準備好用於無人完全自主武器。國防部長皮特·赫格塞思（Pete Hegseth）主張五角大樓應為任何合法目的獲取 AI 系統，不應受私人承包商限制。供應鏈風險標籤通常保留給外國對手，要求與五角大樓合作的機構證明不使用安提克模型。儘管仍有幾傢俬人公司與安提克合作，但該公司恐將失去政府內大部分業務。安提克稱國防部行動「前所未有且違法」，指控政府報復，並援引憲法反對政府懲罰受保護言論。該受保護言論指其對 AI 服務限制及安全議題的觀點。政府包括總統特朗普和赫格塞思批評安提克及其執行長達裡奧·阿莫迪（Dario Amodei）為「覺醒」且「極端」，因公司呼籲加強 AI 安全與透明措施。安提克主張政府無需同意其觀點或使用其產品，但不得以國家權力懲罰或壓制其表達。此外，安提克指出無聯邦法律授權此舉，且國防部供應鏈風險指定未遵循國會要求的程式，包括風險評估、通知目標公司、允許回應、作出書面國家安全決定及通知國會。總統特朗普在阿莫迪堅持紅線後，指令所有聯邦機構立即停止使用安提克技術，導致一般服務管理局（GSA）終止其「OneGov」合約，使安提克服務無法供三權使用。安提克請求法院暫停國防部指定並永久阻擋政府執行。安提克還表示尋求司法審查不改變其利用 AI 保護國家安全的承諾，但為保護業務、客戶及合作伙伴所必需。該公司另在華盛頓特區聯邦巡迴法院提起訴訟，要求覆審國防部將其標記為國家安全供應鏈風險的決定，稱此舉違法、具報復性且執行不當。