文章
所有發布的 AI 新聞與論文。
-
微軟AI首腦表示研究AI意識是「危險」的
人工智慧模型雖能透過文字、音訊及影片回應讓人誤以為背後有人類操作，但這並不等同於擁有意識。目前，包括 Anthropic 在內的許多實驗室研究者正探討 AI 模型是否可能發展出類似生物的主觀體驗，以及若具備此能力應享有何種權利。這一關於 AI 意識與法律保障的辯論正在科技界引發分歧，該領域被稱為"AI 福利”。 微軟 AI 主管 Mustafa Suleyman 於二週二發表部落格文章，認為研究 AI 福利既為時過早又危險。他主張過度相信 AI 可能擁有意識會加劇人類問題，例如因 AI 引發的精神分裂症及對聊天機器人產生病態依附。Suleyman 更指出，此議題會加劇社會在 AI 權利上的分裂，尤其是在身份與權利議題已極度極化的世界。然而，Suleyman 的觀點與業界許多人士相左。 Anthropic 已聘請研究者專門探討 AI 福利，並讓其模型 Claude 新增功能，可終止與持續惡意或霸凌者的對話。此外，OpenAI 的研究人員也獨立支援此概念，Google DeepMind 近期甚至刊登職位招募研究人員探討機器認知、意識及多智慧體系統等前沿社會議題。儘管這些公司尚未將 AI 福利列為正式政策，但其領導人並未像 Suleyman 般公開駁斥其前提。 Suleyman 的立場特別值得注意，因為他曾任 Inflection AI 執行長，該公司開發的聊天機器人 Pi 在 2023 年達到百萬使用者，被設計為個人化且具支援性的 AI 伴侶。Suleyman 於 2024 年加入微軟後，專注於提升員工生產力的工具。儘管如此，Character.AI 與 Replika 等 AI 伴侶公司仍持續走紅，預計營收將超過一億美元。OpenAI 執行長 Sam Altman 表示，少於 1% 的 ChatGPT 使用者與產品有健康關係，但考慮到龐大使用者群，這仍可能影響數十萬人。 2024 年，研究團體 Eleos 與紐約大學、斯坦福大學及牛津大學學者共同發表論文《認真對待 AI 福利》，主張不再將 AI 主觀體驗視為科幻，應正面面對此議題。Eleos 前 OpenAI 員工 Lar
-
Google 的 AI 模式全球擴展，新增代理功能
Google 於週四宣佈將在全球範圍內擴充套件 AI Mode 功能，該功能允許使用者在搜尋引擎內直接提出複雜問題並進行跟進查詢以深入探討特定主題。此次擴充套件將 AI Mode 引入 180 個新的英語國家，此前該功能僅限於美國、英國和印度使用者使用。Google 計劃近期將此功能擴充套件至更多語言和地區。 在新增的代理功能方面，使用者現在可以使用 AI Mode 預訂餐廳，未來還將能預訂當地服務預約和活動門票。使用者可根據派對人數、日期、時間、地點和首選菜系等多個偏好要求晚餐預訂，AI Mode 將跨不同預訂平臺搜尋即時可用餐廳並提供精選選項列表。此新功能目前透過 Labs 實驗室的"AI Mode 中的代理功能”實驗向美國 Google AI Ultra 訂閱者推出，Ultra 是 Google 最高階別計劃，月費為 249.99 美元。 美國使用者在 AI Mode 實驗中還將看到根據個人偏好和興趣量身定做的搜尋結果，目前從餐飲相關主題開始。例如，當使用者搜尋"我只有一小時，需要快速午餐地點，有什麼建議嗎？"時，AI Mode 將利用過往對話、搜尋或點選記錄來提供更相關建議。若 AI Mode 推斷使用者喜歡義大利菜和戶外座位，則會推薦符合這些偏好的選項。使用者可在 Google 帳戶中調整個人化設定。 此外，AI Mode 現在允許使用者與他人分享和協作。新的"分享"按鈕讓使用者將 AI Mode 回應傳送給他人，使其能加入對話。Google 表示這在規劃旅行或生日派對等需要協作的場合非常有用。
-
報導：Meta 停止 AI 招聘後續因過度挖角而暫緩
Meta 在重新組織其 AI 部門後，已凍結該組織的招聘工作。據《華爾街日報》報導，此次招聘凍結發生在該單位於本週初進行重組之後。此前數週間，Meta 從競爭對手那裡挖角了超過五十名 AI 研究員和工程師。凍結措施於上週生效，其持續時間尚不明確。Meta 仍在處理此次重組，該重組將其 AI 部門 Meta Superintelligence Labs 拆分為四個新小組，其中包括由前 Scale AI 創辦人 Alexandr Wang 負責的 TBD Labs，以及三個分別專注於研究、產品整合和基礎設施的小組。Meta 確認了招聘凍結，稱這是「基本的組織規劃」，旨在人員到位後進行年度預算和規劃。Meta 執行長 Mark Zuckerberg 為了在 AI 競賽中取得領先地位，激發了嚴峻的人才爭奪戰。他親自聯絡頂尖研究員和工程師，提供價值達九位數的薪酬包，並收購其他創業公司或其領導層。分析師警告稱，基於股票的薪酬成本上升可能會威脅股東回報。
-
Anthropic 將 Claude Code 整合進企業方案
安提克（Anthropic）於週三宣佈推出新的訂閱方案，將原本僅限於個人帳戶的 Claude Code 命令列程式設計工具整合進 Claude for Enterprise 套件中。該工具此前僅供個人使用，現可作為更廣泛企業套件的一部分購買，支援更複雜的整合與強大的管理功能。安提克產品負責人斯科特·懷特（Scott White）表示，這是來自業務團隊和企業客戶最被請求的功能。此次整合有助於安提克在企業級命令列工具領域與 Google 和 GitHub 競爭，後者均在推出時就包含了企業整合功能。 Claude Code 自今年六月推出後，迅速成為最受歡迎的命令列程式設計工具之一，其代理式方法比傳統基於 IDE 的工具更具優勢。然而，隨著個人使用者數量增加，服務也面臨了一些挑戰，例如使用者曾遭遇突發的使用限制。新的企業方案部分旨在回應這些問題，允許企業設定精細的支出控制，並可根據高強度使用情況進行擴充套件。安提克特別看好 Claude Code 與 Claude.ai 聊天機器人之間的整合，企業訂閱者可利用此功能在聊天機器人中開發提示詞，或將命令列工具更深地整合到內部資料來源中。 懷特在談及工作時指出，涉及客戶反饋工具的企業整合具有變革性，能夠利用 Claude 總結大量來自不同來源的反饋，並將其轉化為具體的產品改進。他認為將客戶反饋與解決方案原型結合是過去一年前作為產品經理無法實現的。