實體: Anthropic
所有提到 Anthropic 的 AI 新聞與動態。
-
google 讓真實世界資料更易供 AI 使用 並讓訓練流程愛上它
Google 推出 Data Commons Model Context Protocol (MCP) Server，旨在將其龐大的公開資料庫轉化為 AI 訓練的寶庫。該資料庫自 2018 年啟動，整合了政府調查、地方行政資料及聯合國等全球機構的統計資料。MCP Server 的發布讓開發者與 AI 代理能透過自然語言訪問這些資料，解決 AI 系統常因訓練資料雜訊或來源不足而產生幻覺的問題。MCP 最初由 Anthropic 於去年 11 月推出，目前 OpenAI、Microsoft 及 Google 等公司已採用此標準。Google 團隊與非營利組織 ONE Campaign 合作開發 ONE Data Agent，利用 MCP Server 以平實語言呈現數千萬個金融與健康資料點。該專案促使 Google 於今年 5 月建立專屬的 MCP Server。此工具相容任何大型語言模型，開發者可透過 Agent Development Kit (ADK) 的 Colab 筆記本、Gemini CLI 或 PyPI 包等方式使用，相關程式碼亦提供於 GitHub 倉庫。
-
Google Cloud 副總裁不擔心吸引大型 AI 公司
本週 StrictlyVC Download 節目中，TechCrunch 總編輯 Connie Loizos 與 Google Cloud 自今年一月起擔任首席營運官的知名企業家 Francis deSouza 進行對話。兩人探討了 Google Cloud 的未來目標，以及該公司如何在競爭激烈的市場中保持優勢。目前，大型雲端服務商如 AWS 和 Oracle 正積極收購領先的 AI 公司，包括 OpenAI 和 Anthropic，而 Google Cloud 則選擇專注於支援創業公司。談話還深入分析了 AI 生態系統中複雜的關係網路，指出 Google Cloud 提供基礎設施服務，而其母公司 Google 卻在生成式 AI 領域激烈競爭，甚至持有被視為競爭對手公司的投資權益。此外，兩人討論了 Google Cloud 如何應對 GPU 短缺問題，將其作為吸引客戶並留住客戶的重要策略的一部分。StrictlyVC Download 節目每週二更新，讀者可透過 Apple、Spotify 或其他播客平臺訂閱以接收新集數通知。
-
史考特·威尼爾爭取讓科技巨頭揭露人工智能的風險
加州參議員斯科特·維尼（Scott Wiener）再次推動 AI 安全立法，此次為第 53 號提案（SB 53），旨在解決前一年第 1047 號提案（SB 1047）被加州州長加文·紐森（Gavin Newsom）廢除後留下的挑戰。SB 1047 曾要求科技公司對 AI 系統造成的潛在傷害承擔責任，引發矽谷領袖強烈反對，最終被廢除。相比之下，SB 53 更受矽谷歡迎，安提克（Anthropic）已明確支援，Meta 也表示支援平衡監管與創新。若透過，SB 53 將對年收入超過 5 億美元的 AI 實驗室，包括 OpenAI、Anthropic、xAI 和 Google，實施首批安全報告要求，使其必須公開最強大 AI 模型的安全測試情況。該法案專注於最嚴重的風險，如導致人類死亡、網路攻擊和生化武器。此外，SB 53 設立了員工向政府報告安全隱患的保護渠道，並建立州運營的雲端計算叢集 CalCompute，為 AI 研究提供資源。維尼認為聯邦政府無法有效監管，並批評特朗普政府將重點轉向 AI 成長而非安全，他強調加州應在確保創新不受阻礙的前提下領導國家 AI 安全事務。
-
矽谷押注「環境」訓練AI代理
多年來，科技巨頭執行長宣揚 AI 代理能自主使用軟體完成任務，但消費者現有的 AI 代理如 OpenAI 的 ChatGPT Agent 或 Perplexity 的 Comet 顯示技術仍有限。業界認為，要提升 AI 代理的堅固性，需採用新的技術，其中之一是模擬工作空間以訓練多步驟任務，稱為強化學習（RL）環境。類似標註資料集推動了上一波 AI 發展，RL 環境正成為開發關鍵元素。Andreessen Horowitz 合夥人 Jennifer Li 表示，各大 AI 實驗室都在自建 RL 環境，但也尋求第三方供應商。此趨勢催生了 Mechanize 和 Prime Intellect 等新創公司，以及 Mercor 和 Surge 等資料標註公司的投資增加。據 The Information 報導，Anthropic 領導層討論過未來一年花費超過 10 億美元於 RL 環境。投資者希望有公司能成為類似 Scale AI 的「環境標註巨頭」。 RL 環境是模擬 AI 代理在真實軟體應用中行為的訓練場。例如，模擬 Chrome 瀏覽器並讓代理在 Amazon 購買襪子，成功則給予獎勵。由於代理可能迷失或購買過多，環境必須足夠堅固以捕捉意外行為。OpenAI 早在 2016 年便建立「RL 健身房」，與 AlphaGo 使用類似技術。今日不同之處在於訓練具備大型變換器模型的通用電腦使用 AI 代理。資料標註公司如 Scale AI、Surge 和 Mercor 正積極應對需求，其中 Surge 去年營收達 12 億美元，Mercor 估值 100 億美元。Scale AI 曾因 Meta 投資 140 億美元並挖角執行長而失去部分市場，但仍努力適應。新創公司如 Mechanize 提供 50 萬美元年薪招募工程師建立環境，並與 Anthropic 合作；Prime Intellect 則針對小型開發者提供資源。 關於 RL 環境是否能像過去 AI 訓練方法般擴充套件，仍存在疑問。強化學習已推動 OpenAI 的 o1 和 Anthropic 的 Claude Opus 4 等模型突破，但方法現顯示遞減回報。OpenAI 研究人員曾投資推理模型，認為其能良好擴充套件。雖然擴充套件方式尚不明確，環境似乎具潛力，因其讓代理在具備工具和電腦的模擬