實體: Anthropic
所有提到 Anthropic 的 AI 新聞與動態。
-
Uber限制員工AI開支預算 四個月用完
Uber 因 AI 使用成本過高，近期實施內部使用上限以控制支出。彭博社報導，Uber 設立新規則，每位員工每月每套代理程式設計工具（包括 Anthropic 的 Claude Code 或 Cursor）的使用上限為 1500 美元。該限制透過內部儀錶板追蹤，員工可隨時檢視，但在特定情況下經許可可超額使用。此舉並非完全意外，因為 Uber 技術長曾在四月透露，該公司僅在四個月內就用盡了全年 AI 預算。此前有報導指出，Uber 曾鼓勵員工盡可能使用 AI，甚至將內部使用情況列入競爭榜單。Uber 首席營運官安德魯·麥當諾近期也在播客中表示，很難將 AI 使用與新消費功能之間的產出效果劃清界線。Uber 的削減措施凸顯了科技產業面臨的廣泛問題：企業投入大量資金於 AI 後，投資回報率究竟何在？目前 AI 投資回報率仍主要停留在理論階段，雖許多公司期待其早日實現，但部分企業已顯焦躁。
-
微軟提供開發者更優化的方式控制AI代理行為
隨著人工智慧代理（AI agents）能力日益增強，企業在將其應用於各種應用程式、工作流與產品時，面臨確保代理在不同環境中執行正確任務的新挑戰。微軟推出名為代理控制規範（Agent Control Specification，簡稱 ACS）的新開源標準，旨在為開發者提供更一致且細緻的代理控制方式。該規範允許開發、合規與安全團隊自行定義代理需遵循的政策，包括規定代理可執行的動作、禁止的動作、何時需要人類批准行動，以及應記錄哪些證據以供後續審查。這些政策檔案會在代理執行任務的幾個「攔截點」進行檢查，確保其不超出安全範圍。 目前開發者常透過系統提示、自訂程式碼檢查或分類器來控制代理行為，但這些方法往往導致控制碎片化，難以審計且無法跨框架、介面與系統重複使用。ACS 旨在將這些控制整合至共同的治理層，讓政策可在多個工作階段檢查，例如在接收輸入前、呼叫工具前、工具返回結果後以及最終回應傳送給使用者前。政策可允許、阻擋行動、刪去敏感資訊或要求人類批准。開發者亦可加入分類器、使用大型語言模型（LLM）作為政策審判者，並加入邏輯來檢查工具呼叫、選擇、輸入準確度、輸出使用與回應。由於政策可寫成單一檔案並隨代理打包，安全政策可隨代理跨不同框架與環境移動。ACS 正以軟體開發套件（SDK）形式推出，並提供針對 LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI、MCP 工具等平臺的外掛支援。
-
Anthropic 將 Claude 擴展至 15 個以上國家的關鍵基礎設施
安提洛普公司（Anthropic）於週二宣佈擴大其「玻璃翼專案」（Project Glasswing），該專案旨在利用人工智慧發現並修復關鍵軟體漏洞。參與組織數量將增加至約一百五十家，涵蓋超過十五個國家。此訊息傳出後一天，安提洛普便宣佈已秘密申請首次公開募股，此前剛完成了一筆六十五億美元的融資，估值接近一兆美元。該專案的核心是安提洛普推出的 Claude Mythos 模型，被稱為其最強大的版本，能在數週內識別數千個零日漏洞。早在四月初，安提洛普便向五十家初始合作夥伴，包括美國政府，開放了 Claude Mythos Preview 預覽版，用於掃描其程式碼庫中的漏洞與安全缺陷。此次擴充後的組織名單涵蓋電力、供水、醫療保健、通訊及硬體等產業，這些領域在安提洛普的初始合作夥伴中代表性不足。許多新加入的組織是維護其他機構和政府依賴的程式碼庫的公司或非營利組織。安提洛普指出，攻擊這些合作夥伴的程式碼庫可能導致災難性後果，估計對大多數合作夥伴而言，重大攻擊可能影響超過一億人，並對全球及國家安全產生重要影響。擴充後的組織名單包括與美國友好的國家，如澳洲、加拿大、法國、德國、義大利、瑞士、荷蘭、西班牙、比利時、瑞典、印度、日本、紐西蘭和韓國。據《金融時報》報導，獲得訪問權的組織還包括美國的身份與安全管理工具 Okta、南韓的三星、SK Hynix 和 SK Telecom、總部設在比利時的美軍同盟 NATO，以及歐盟的網路安全機構 ENISA。安提洛普表示，預期其他人工智慧公司將很快開發出與 Mythos Preview 能力相當的模型，因此該公司正致力於在玻璃翼專案內建立防護機制。自推出 Mythos 以來，競爭對手 OpenAI 已發布了其專攻網路安全的模型 GPT-5.5-Cyber，並已向一大群合作夥伴推出供測試使用。
-
ZeroDrift籌集1000萬美元資金以保護AI模型不受自身威脅
企業在除錯人工智慧系統時，治理成為關鍵挑戰。ZeroDrift 是一家新成立的 AI 合規服務公司，於週二宣佈完成種子輪融資，籌得一億美元。該公司獲得 a16z Speedrun、Reign Ventures、Pitchdrive 及 U&I Ventures 等投資機構支援。ZeroDrift 專注於處理 AI 系統中第二部分的治理問題，即位於 AI 模型與終端使用者之間，負責標記並替換可能引發合規問題的訊息。 CEO Kumesh Aroomoogan 指出，雖然用 AI 工具修正其他 AI 系統的錯誤看似矛盾，但 ZeroDrift 的系統具備架構優勢。其運作方式由傳統程式先確定性地應用已知合規標準，如 SOC 2 或 GDPR，僅在訊息被標記後才啟動大型語言模型進行重寫。公司宣稱其整體系統能以比傳統大型語言模型更低的延遲和更高的可靠性執行，這是其對 OpenAI 和 Anthropic 等大型實驗室的主要優勢。 主要應用場景包括已部署於消費者面前的 AI 聊天機器人，但 Aroomoogan 認為潛在市場更大，涵蓋人類從未見過的自動化系統生成的 AI 訊息。目前市場規模尚小，但隨著 AI 普及將快速成長。此次融資顯示對此類產品有強烈需求，融資過程僅用三週完成，且被超額訂閱三倍。Andreessen Horowitz 協助構建了此次種子輪融資。