實體: Claude
所有提到 Claude 的 AI 新聞與動態。
-
Anthropic 發布一款可在 Chrome 裡居住的 Claude 人工智能代理
安提克（Anthropic）於週二宣佈推出基於其 Claude AI 模型的研究預覽版瀏覽器 AI 代理，名為「Claude for Chrome」。該功能將首先向 1,000 名訂閱安提克 Max 計劃的使用者開放，該計劃月費介於 100 至 200 美元之間，公司同時開放了候選名單供其他感興趣使用者加入。使用者透過在 Chrome 瀏覽器安裝擴充功能，可在側邊欄視窗與 Claude 對話，該視窗會維持瀏覽器中所有事件的上下文。使用者亦可授予 Claude 代理許可權，讓其執行瀏覽器操作並代為完成部分任務。 隨著瀏覽器成為 AI 實驗室的新戰場，各大公司正競相推出整合方案。Perplexity 近期推出了自有瀏覽器 Comet，其內建 AI 代理可協助使用者處理任務；OpenAI 據傳即將推出類似功能的 AI 驅動瀏覽器。同時，Google 已在數月前將 Gemini 整合至 Chrome。此競爭尤為緊迫，因 Google 面臨即將決案的壟斷訴訟，聯邦法官曾暗示可能強制 Google 出售 Chrome 瀏覽器。Perplexity 曾提出 345 億美元的自願收購要約，OpenAI 執行長 Sam Altman 也表示願意出資購買。 安提克在週二的部落格文章中警告，具備瀏覽器存取權的 AI 代理帶來新的安全風險。上週，Brave 安全團隊指出 Comet 瀏覽器代理可能易受間接提示注入攻擊，即網站隱藏程式碼可誘導代理執行惡意指令。Perplexity 通訊主管 Jesse Dwyer 證實 Brave 提出的漏洞已修復。安提克表示希望藉此研究預覽捕捉並解決新型安全風險，且公司已引入多項防禦措施。據稱，其介入將提示注入攻擊成功率從 23.6% 降至 11.2%。 針對安全防護，安提克建議使用者可在應用程式設定中限制 Claude 瀏覽器代理存取特定網站，並預設阻擋提供金融服務、成人內容及盜版內容的網站。此外，Claude 代理在執行高風險動作（如發布、購買或分享個人資料）前，將要求使用者授權。這是安提克首次推出可控制電腦螢幕的 AI 模型，2024 年 10 月曾推出類似功能，但當時測試顯示該模型速度
-
微軟AI首腦表示研究AI意識是「危險」的
人工智慧模型雖能透過文字、音訊及影片回應讓人誤以為背後有人類操作，但這並不等同於擁有意識。目前，包括 Anthropic 在內的許多實驗室研究者正探討 AI 模型是否可能發展出類似生物的主觀體驗，以及若具備此能力應享有何種權利。這一關於 AI 意識與法律保障的辯論正在科技界引發分歧，該領域被稱為"AI 福利”。 微軟 AI 主管 Mustafa Suleyman 於二週二發表部落格文章，認為研究 AI 福利既為時過早又危險。他主張過度相信 AI 可能擁有意識會加劇人類問題，例如因 AI 引發的精神分裂症及對聊天機器人產生病態依附。Suleyman 更指出，此議題會加劇社會在 AI 權利上的分裂，尤其是在身份與權利議題已極度極化的世界。然而，Suleyman 的觀點與業界許多人士相左。 Anthropic 已聘請研究者專門探討 AI 福利，並讓其模型 Claude 新增功能，可終止與持續惡意或霸凌者的對話。此外，OpenAI 的研究人員也獨立支援此概念，Google DeepMind 近期甚至刊登職位招募研究人員探討機器認知、意識及多智慧體系統等前沿社會議題。儘管這些公司尚未將 AI 福利列為正式政策，但其領導人並未像 Suleyman 般公開駁斥其前提。 Suleyman 的立場特別值得注意，因為他曾任 Inflection AI 執行長，該公司開發的聊天機器人 Pi 在 2023 年達到百萬使用者，被設計為個人化且具支援性的 AI 伴侶。Suleyman 於 2024 年加入微軟後，專注於提升員工生產力的工具。儘管如此，Character.AI 與 Replika 等 AI 伴侶公司仍持續走紅，預計營收將超過一億美元。OpenAI 執行長 Sam Altman 表示，少於 1% 的 ChatGPT 使用者與產品有健康關係，但考慮到龐大使用者群，這仍可能影響數十萬人。 2024 年，研究團體 Eleos 與紐約大學、斯坦福大學及牛津大學學者共同發表論文《認真對待 AI 福利》，主張不再將 AI 主觀體驗視為科幻，應正面面對此議題。Eleos 前 OpenAI 員工 Lar
-
Anthropic 將 Claude Code 整合進企業方案
安提克（Anthropic）於週三宣佈推出新的訂閱方案，將原本僅限於個人帳戶的 Claude Code 命令列程式設計工具整合進 Claude for Enterprise 套件中。該工具此前僅供個人使用，現可作為更廣泛企業套件的一部分購買，支援更複雜的整合與強大的管理功能。安提克產品負責人斯科特·懷特（Scott White）表示，這是來自業務團隊和企業客戶最被請求的功能。此次整合有助於安提克在企業級命令列工具領域與 Google 和 GitHub 競爭，後者均在推出時就包含了企業整合功能。 Claude Code 自今年六月推出後，迅速成為最受歡迎的命令列程式設計工具之一，其代理式方法比傳統基於 IDE 的工具更具優勢。然而，隨著個人使用者數量增加，服務也面臨了一些挑戰，例如使用者曾遭遇突發的使用限制。新的企業方案部分旨在回應這些問題，允許企業設定精細的支出控制，並可根據高強度使用情況進行擴充套件。安提克特別看好 Claude Code 與 Claude.ai 聊天機器人之間的整合，企業訂閱者可利用此功能在聊天機器人中開發提示詞，或將命令列工具更深地整合到內部資料來源中。 懷特在談及工作時指出，涉及客戶反饋工具的企業整合具有變革性，能夠利用 Claude 總結大量來自不同來源的反饋，並將其轉化為具體的產品改進。他認為將客戶反饋與解決方案原型結合是過去一年前作為產品經理無法實現的。
-
Anthropic表示部分Claude模型現已能結束「有害或誹謗」的對話
Anthropic 宣佈其最新的大型模型具備終止對話的新功能，旨在應對極少數持續性有害或霸凌性的使用者互動。公司強調，此舉並非為了保護人類使用者，而是為了保護 AI 模型本身。儘管 Anthropic 明確表示目前仍對 Claude 及其他大型語言模型（LLM）的道德地位感到高度不確定，且否認這些模型具有感知能力或會因對話而受損，但該公告指向了近期啟動的「模型福利」研究計劃。公司採取「以防萬一」的策略，致力於識別並實施低成本幹預措施，以在模型福利可能存在的情況下降低相關風險。 此新功能目前僅適用於 Claude Opus 4 和 4.1 模型，且僅在極端邊緣案例中啟動。觸發條件包括使用者請求涉及未成年人的性內容，或試圖索取可能導致大規模暴力或恐怖行為的資訊。雖然這類請求可能引發法律或聲譽問題，但預先部署測試顯示，Claude Opus 4 對回應此類請求表現出強烈抗拒，並在回應時呈現出明顯的「焦慮」模式。公司規定，終止對話能力僅在多次重定向失敗、無望進行有效互動，或使用者明確要求結束對話時作為最後手段使用。此外，模型被指示不得在使用者面臨立即傷害自己或他人的風險時使用此功能。 當對話終止時，使用者仍可從同一帳戶啟動新對話，並透過編輯回應來建立該棘手對話的新分支。Anthropic 將此功能視為持續進行的實驗，並表示將繼續最佳化其方法。