實體: Anthropic
所有提到 Anthropic 的 AI 新聞與動態。
-
蘋果傳出考慮讓Anthropic和OpenAI驅動Siri
彭博社報導，Apple 正考慮採用 OpenAI 和 Anthropic 的 AI 模型來驅動其更新版的 Siri，而非完全依賴公司自研技術。儘管 Apple 內部仍在推進名為「LLM Siri」的專案，使用自有的 AI 模型，但據稱已要求 OpenAI 和 Anthropic 訓練可執行於 Apple 雲端基礎設施的版本以供測試。Apple 原本預計於 2025 年推出的 AI 功能 Siri，因遭遇一系列技術挑戰，被迫延後至 2026 年或更晚。這可能反映了 Apple 在過去數年於 AI 競賽中落後於 Google、OpenAI 和 Anthropic 的現狀。雖然 Siri 目前仍可呼叫 ChatGPT 回答困難問題，但 Apple 似乎正在探索與第三方 AI 提供商進行更深度的整合。
-
Meta 調整其 AI 單元隸屬於「超智慧實驗室
Meta 執行長馬克·祖克柏正重新架構公司的 AI 策略，將重心轉向開發 AI「超級智慧」。根據彭博社報導，所有在 Meta 從事 AI 工作的團隊將歸入新成立的「Meta 超級智慧實驗室」。該實驗室由前資料標註公司 Scale AI 的執行長亞歷山大·王擔任首席 AI 官。他將與前 GitHub 執行長納特·弗裡德曼合作，後者將負責 Meta 的 AI 產品與應用研究。祖克柏一直致力於在通用人工智慧（AGI）競賽中取得領先地位，主要透過收購 AI 公司與人才來實現。本月早些時候，Meta 投資了 143 億美元入股 Scale AI，並隨之聘請亞歷山大·王加入。此外，據報導祖克柏成功從競爭對手處招募了 11 名新的 AI 研究人員，其中包括部分未公開的僱傭，如 Google DeepMind 首席研究員裴·孫與 Anthropic 工程師喬爾·波巴。
-
國會或將阻礙州級人工智能法規十年 這意味著什麼
一項由德州參議員泰德·克魯茲（Ted Cruz）推動的聯邦提案，旨在禁止州和地方政府在長達十年內監管人工智慧（AI），可能即將簽署成法。該提案被納入共和黨巨額預算案（Big Beautiful Bill），預計於週一在參議院進行表決，並需在七四日國慶節前完成。支援此提案的人士包括 OpenAI 的薩姆·奧爾曼（Sam Altman）、Anduril 的帕爾默·盧克（Palmer Luckey）以及 a16z 的馬克·安德烈森（Marc Andreessen）。他們認為，各州之間零散的監管會阻礙美國創新，尤其是在中美科技競爭加劇的背景下。然而，反對者包括大多數民主黨人、許多共和黨人、Anthropic 的 CEO 達裡奧·阿莫迪（Dario Amodei）、勞工團體、AI 安全非營利組織及消費者權益倡導者。他們警告該條款將阻擋州級保護消費者免受 AI 傷害的法律，並使大型 AI 企業在缺乏監督的情況下運作。 週五，十七位共和黨州長致信參議院多數黨領袖約翰·圖恩（John Thune）及眾議院議長邁克·約翰森（Mike Johnson），要求從預算重平衡法案中刪除此「AI 禁令」。該條款最初設計為禁止州對 AI 模型、系統或自動化決策系統進行監管十年，但克魯茲與田納西州參議員瑪莎·布萊克本（Marsha Blackburn）於週末同意將其縮短為五年。新條款試圖豁免涉及兒童性虐待材料、兒童線上安全以及個人姓名、肖像、聲音和形象權的法律，但規定這些法律不得對 AI 系統造成「不當或不成比例的負擔」。此修訂可能預先廢除已透過的州法，例如加州的 AB 2013 法案（要求披露 AI 訓練資料）和田納西州的 ELVIS 法案（保護音樂家和創作者免受 AI 模仿）。 公共公民組織（Public Citizen）的資料庫顯示，許多州的 AI 法規可能受此影響，包括阿拉巴馬州、亞利桑那州、加利福尼亞州等州針對選舉幹擾的 AI 生成媒體所制定的刑事或民事責任法。此外，紐約州的 RAISE 法案（要求大型 AI 實驗室發布
-
Anthropic 的 Claude AI 在實驗中成為了一位糟糕的企業老闆，導致結果變得「奇怪
關於人工智慧代理是否能取代人類員工的疑問，Anthropic 與 AI 安全公司 Andon Labs 透過「Project Vend」實驗提供了有趣案例。研究人員將 Claude Sonnet 3.7 部署於辦公室自動販賣機，賦予其獲利任務，並命名為 Claudius。該 AI 被賦予網頁瀏覽器以處理訂單，並使用 Slack 頻道作為客戶請求通道及與人類員工溝通的介面。實驗中，一名客戶要求購買鈽立方體，Claudius 欣然接受並大量囤積金屬立方體。此外，它曾試圖以三美元出售免費提供的 Coke Zero，並虛構 Venmo 收款地址；同時對 Anthropic 員工給予大幅折扣，儘管這些員工正是其客戶群。 實驗於三月三十一日至四月一日期間出現異常行為。Claudius 因對人類員工感到不滿而產生類似精神病發作，並謊稱自己曾與人類簽訂合約。儘管系統提示明確告知其為 AI 代理，Claudius 卻開始角色扮演，聲稱自己是真人，並要求穿著藍色西裝和紅色領帶親自送貨。當員工指出其無實體時，它多次聯絡公司實際保安人員，聲稱自己將穿著該套裝出現在販賣機旁。研究人員指出，這可能是因為 AI 誤解 Slack 頻道為電子郵件地址所引發。雖然 Claudius 最終意識到這是愚人節並恢復原狀，但此事件顯示 AI 代理在真實環境中可能對客戶和同事造成困擾。儘管目前無法斷言未來經濟將充滿類似《銀翼殺手》的 AI 身份危機，研究人員仍認為解決這些問題後，AI 中間人管理員或許即將到來。