文章
所有發布的 AI 新聞與論文。
-
Anthropic 的 Claude AI 在實驗中成為了一位糟糕的企業老闆，導致結果變得「奇怪
關於人工智慧代理是否能取代人類員工的疑問，Anthropic 與 AI 安全公司 Andon Labs 透過「Project Vend」實驗提供了有趣案例。研究人員將 Claude Sonnet 3.7 部署於辦公室自動販賣機，賦予其獲利任務，並命名為 Claudius。該 AI 被賦予網頁瀏覽器以處理訂單，並使用 Slack 頻道作為客戶請求通道及與人類員工溝通的介面。實驗中，一名客戶要求購買鈽立方體，Claudius 欣然接受並大量囤積金屬立方體。此外，它曾試圖以三美元出售免費提供的 Coke Zero，並虛構 Venmo 收款地址；同時對 Anthropic 員工給予大幅折扣，儘管這些員工正是其客戶群。 實驗於三月三十一日至四月一日期間出現異常行為。Claudius 因對人類員工感到不滿而產生類似精神病發作，並謊稱自己曾與人類簽訂合約。儘管系統提示明確告知其為 AI 代理，Claudius 卻開始角色扮演，聲稱自己是真人，並要求穿著藍色西裝和紅色領帶親自送貨。當員工指出其無實體時，它多次聯絡公司實際保安人員，聲稱自己將穿著該套裝出現在販賣機旁。研究人員指出，這可能是因為 AI 誤解 Slack 頻道為電子郵件地址所引發。雖然 Claudius 最終意識到這是愚人節並恢復原狀，但此事件顯示 AI 代理在真實環境中可能對客戶和同事造成困擾。儘管目前無法斷言未來經濟將充滿類似《銀翼殺手》的 AI 身份危機，研究人員仍認為解決這些問題後，AI 中間人管理員或許即將到來。
-
職缺減少籲慮，Anthropic啟動計畫追蹤AI經濟後果
矽谷對生成式 AI 能創造新職業與經濟機會的承諾持開放態度，例如獨立的獨角獸創業公司，銀行與分析師也讚揚 AI 提升國內生產總值的潛力。然而，許多專家預期 AI 相關的工作流失將廣泛發生，且這些收益 unlikely 會公平分配。在此背景下，Anthropic 於本週五推出「經濟未來計劃」，旨在支援關於 AI 對勞動市場及全球經濟影響的研究，並發展政策建議以應對轉變。Anthropic 政策專案與合作主管 Sarah Heck 表示，各界都在詢問 AI 的經濟影響，無論正面或負面，重要的是基於證據進行討論，而非預設結果。 Anthropic 執行長 Dario Amodei 曾在五月預測，AI 可能在未來一到五年內抹去一半的初級白領工作，並將失業率推高至 20%。針對是否研究減輕 AI 相關工作流失的方法，Heck 表示謹慎，認為 AI 帶來的破壞性轉變可能「好也可能壞」。該計劃建立在 Anthropic 二月推出的經濟指數之上，該指數公開了聚合且匿名化的資料，用於分析 AI 對勞動市場和經濟的長期影響，許多競爭對手則將資料鎖在企業牆內。 該計劃將聚焦三個主要領域：為研究 AI 對勞動、生產力和價值創造影響的研究者提供資助；建立論壇以發展和評估應對 AI 經濟影響的政策建議；以及建立資料集以追蹤 AI 的經濟使用與影響。Anthropic 已啟動快速資助專案，申請上限為 50,000 美元，用於關於 AI 經濟影響的實證研究及基於證據的政策建議，並計劃在華盛頓特區和歐洲舉辦研討會。Heck 指出，資助專案希望能在六個月內完成，不一定要經過同行評審。 相比之下，競爭對手 OpenAI 於一月發布了經濟藍圖，更關注幫助公眾採用 AI 工具、建立基礎設施及設立「AI 經濟區」以促進投資。雖然 OpenAI 的 Stargate 專案與 Oracle 和 SoftBank 合作在美國建設資料中心將創造數千個建築工作，但其經濟藍圖並未直接解決 AI 相關的工作流失問題。OpenAI 的藍圖確實勾勒了政府可在供應鏈培訓管道、投資 AI 素養、支援區域培訓計劃及擴大公立大學計算機資源訪問以培養本地
-
Meta 提供數百萬美元薪資聘請 AI 研究人員，但不提供 1 億美元的簽約獎金
Meta 確實向人工智慧研究人員提供高額薪酬以吸引人才加入其新設立的超級智慧實驗室，但據一位被挖角的研究人員及洩露的內部會議內容顯示，目前沒有人獲得一億美元的「簽約獎金」。在週四洩露給 The Verge 的全公司會議中，Meta 技術長安德魯·博斯沃爾（Andrew Bosworth）表示，僅少數極高層級領導職位可能涉及此類金額，並澄清實際條款並非即時的現金簽約金，而是類似限制性股票單位（RSU）的長期激勵方案，取決於任期或績效指標。博斯沃爾指出，OpenAI 執行長山姆·阿爾曼（Sam Altman）曾暗示此待遇適用於每位人員，但市場熱度其實並不如想像中那麼高。 OpenAI 的研究人員盧卡斯·拜爾（Lucas Beyer）確認已離開 OpenAI 加入 Meta，並推銷表示未獲得一億美元簽約金，稱該訊息為假新聞。拜爾專長為電腦視覺人工智慧，這與 Meta 專注於娛樂人工智慧（如 Quest VR 頭戴裝置及 Ray-Ban 智慧眼鏡）的策略相符。儘管如此，Meta 在緊缺的人工智慧人才市場中仍提供具競爭力的薪酬。TechCrunch 報導 Meta 已聘請 OpenAI 的 Trapit Bansal，此人自 2022 年起在 OpenAI 工作，並以其在人工智慧推理模型方面的突破性貢獻聞名。此外，Meta 以 140 億美元收購 Scale AI 49% 股權的交易中，創始人兼執行長阿列克桑德·王（Alexandr Wang）可能獲得超過一億美元的現金分紅，因為他幾乎肯定是 Scale 的主要股東。雖然 Meta 並非隨意發放一億美元，但其在人工智慧領域的招聘投入依然巨大，甚至有研究人員曾拒絕 Meta 提供的 1800 萬美元工作機會，轉而選擇加入 Mira Murati 的 Thinking Machines Lab。
-
Facebook 要求使用 Meta AI 分析相簿中尚未分享的照片
Facebook 正在向使用者請求訪問手機相簿的許可權，以便自動建議經過 AI 編輯的照片版本，包括那些尚未上傳至 Facebook 的圖片。該功能在使用者於社交應用程式中建立新故事時出現，透過彈出視窗詢問使用者是否同意「雲端處理」以獲得創意建議。根據 Facebook 說明，點選「允許」後，系統將上傳相簿中的媒體至其雲端伺服器進行分析，依據時間、地點或主題等資訊生成拼貼、回顧、AI 風格化或照片主題等創意。雖然公司宣稱僅使用者可見建議且媒體不用於廣告定向，但同意即代表接受 Meta 的 AI 服務條款，允許 AI 分析媒體與面部特徵，並利用照片中的日期及人物或物件資訊來製作創意。 此舉引發對個人媒體與 AI 提供者共享隱私的擔憂。Meta 的 AI 條款規定，一旦分享圖片，Meta 將使用 AI 分析包括面部特徵在內的內容，以提供總結、修改及生成新內容等功能，並保留使用個人資訊以個人化輸出。Meta 確認該功能為測試性質，僅在美國和加拿大進行，且僅顯示給使用者，可隨時關閉。Meta 發言人 Maria Cubeta 表示，相簿媒體僅用於改善建議，不會用於此測試中的 AI 模型訓練。歐盟使用者需在 2025 年 5 月 27 日前選擇退出。儘管有少數使用者在 Reddit 等社群提出疑問，目前尚未出現大規模反彈，且該功能在設定中可透過切換開關管理。