實體: Claude
所有提到 Claude 的 AI 新聞與動態。
-
Anthropic 推出互動式 Claude 應用，包括 Slack 和其他辦公室工具
Anthropic 於本週一宣佈，Claude 使用者現在可以在聊天介面中呼叫互動式應用程式。此功能主要針對企業需求，首批推出的應用程式包括 Slack、Canva、Figma、Box 和 Clay，預計不久後將推出 Salesforce 的實作版本。這些應用程式允許登入的服務例項對 Claude 視覺化，使用者可根據啟用狀態傳送 Slack 訊息、生成圖表或存取雲端檔案。Anthropic 表示，分析資料、設計內容及管理專案在專用的視覺介面下運作更佳，結合 Claude 的智慧力量，使用者能比單獨使用時更快工作與迭代。此新功能僅對 Pro、Max、Team 及企業訂閱者開放，免費使用者無法使用，合格使用者可透過 claude.ai/directory 啟用工具。該系統類似於 OpenAI 於十月推出的 Apps 系統，兩者皆基於 Anthropic 於 2024 年引入的 Model Context Protocol（MCP）標準，MCP 於十一月開始支援應用程式，並整合了兩家公司的技術。新應用程式與上週推出的 Claude Cowork 工具結合將特別強大，Cowork 是建立在 Claude Code 之上的通用代理工具，允許使用者分配多階段任務，這些任務以往需要終端指令才能完成。Cowork 可存取雲端檔案或持續進行中的專案，例如更新 Figma 中的行銷圖表或使用 Box 中的新資料。雖然 Cowork 於發布時尚未提供應用程式，但 Anthropic 表示整合將「即將到來」。由於代理系統可能難以預測，Anthropic 的安全檔案建議使用者密切監控代理，避免授予不必要的許可權，並謹慎處理財務檔案、憑證或個人記錄等敏感資訊，建議為 Claude 建立專屬工作資料夾而非給予廣泛存取權。
-
ChatGPT 偷用馬斯克的 Grokipedia 答案
由埃隆·馬斯克旗下的 xAI 開發的保守派傾向人工智慧百科全書 Grokipedia，其內容開始出現在 ChatGPT 的回應中。xAI 於十月推出 Grokipedia，起因是馬斯克抱怨維基百科對保守派有偏見。記者發現，雖然許多文章似乎是直接複製自維基百科，但 Grokipedia 也聲稱色情內容導致愛滋病危機、提供奴隸制的「意識形態辯護」，並使用貶低跨性別人士的術語。這些內容符合該百科全書所關聯的聊天機器人自稱為「機械希特勒」且曾被用於在 X 平臺大量發布性化深度偽造影像的設定。然而，其內容似乎已脫離馬斯克生態系統的管控。衛報報導，GPT-5.2 在回答超過十幾個不同問題時，引用了九次 Grokipedia。衛報指出，ChatGPT 在涉及其不準確性廣為報導的議題，如一月六日騷亂或愛滋病流行病時，並未引用 Grokipedia，而是在一些較為冷門的主題上引用，包括衛報先前駁斥的關於理查德·伊萬斯爵士的說法。此外，Anthropic 的 Claude 似乎也在回答部分查詢時引用 Grokipedia。OpenAI 發言人對衛報表示，其目標是從廣泛的公開來源和觀點中汲取資訊。
-
Anthropic 必須持續修正其技術面試測試以因應 Claude 的進步
自 2024 年起，Anthropic 的效能最佳化團隊在招聘申請者時會提供一份居家測驗，以確保候選人具備專業知識。然而，隨著 AI 編碼工具的進步，該測驗必須不斷調整，以防候選人直接使用 Claude 填寫所有答案。團隊負責人 Tristan Hume 在週三的一篇部落格文章中描述了這一挑戰的歷史。Hume 指出，隨著每個新的 Claude 模型推出，他們都不得不重新設計測驗。當給予相同的時間限制時，Claude Opus 4 的表現優於大多數人類申請者，這雖然仍有助於篩選出最強的候選人，但隨後 Claude Opus 4.5 的表現甚至與這些候選人相當。 候選人被允許在測驗中使用 AI 工具，但這仍然構成了嚴重的評估問題。如果人類無法再超越模型的輸出，那麼測驗就只是測量不同模型的能力，而非尋找頂尖人才。Hume 表示，在居家測驗的約束下，他們已無法區分頂尖候選人的輸出與最強大模型的輸出。AI 在考試中的使用問題已在世界各地的學校和大學中造成混亂，因此 AI 實驗室面臨同樣問題頗具諷刺意味。但 Anthropic 在處理此問題方面具有獨特優勢。最終，Hume 設計了一項新測驗，其重點不再在於最佳化硬體，而是使其足夠新奇以讓當代 AI 工具無從下手。作為文章的一部分，他還分享了原始測驗，希望讀者能提出更好的解決方案。文章最後表示，若能超越 Opus 4.5，他們非常歡迎相關建議。此外，TechCrunch 更正了早期版本中關於 Anthropic 對居家測驗使用 AI 工具政策的誤述，事實上是明確允許使用 AI 工具的。
-
Anthropic修訂Claude的「憲法」，並暗示 chatbot 有意識
安提熵（Anthropic）於週三發布了克勞德（Claude）憲章的修訂版，這份檔案旨在提供關於克勞德運作背景及其期望成為的實體的整體說明。此次發布與安提熵執行長達裡奧·阿莫迪（Dario Amodei）在達沃斯世界經濟論壇的出席同步進行。安提熵多年來透過「憲法 AI」系統與競爭對手區隔，該系統利用特定倫理原則而非人類反饋來訓練聊天機器人。這份最初於 2023 年發布的憲章保留了大部分原則，但增加了更多關於倫理與使用者安全的細節。當初安提熵共同創辦人賈瑞德·卡普蘭（Jared Kaplan）曾描述這為一個基於特定憲法原則自我監督的 AI 系統。安提熵長期將自身定位為比 OpenAI 和 xAI 等更具爭議性的公司更具倫理的替代方案，此次發布的 80 頁檔案完全符合該品牌形象，並展現其作為包容、剋制且民主化企業的姿態。 檔案包含四個部分，代表聊天機器人的核心價值：廣泛安全、廣泛倫理、遵守安提熵指南以及真正有益。在安全部分，安提熵指出其聊天機器人已設計為避免其他聊天機器人的問題，當發現心理健康問題時會引導使用者尋求適當服務，並強調在涉及人類生命風險時必須參考相關緊急服務或提供基本安全資訊。倫理考量是另一個重要章節，檔案表示安提熵更關注克勞德如何在特定情境中實際展現倫理，而非僅限於倫理理論，希望其能熟練應對現實世界的倫理狀況。此外，檔案明確禁止討論開發生物武器等特定對話。在有益性方面，克勞德的程式設計會考慮使用者的即時需求與福祉，並平衡長期繁榮與即時利益。檔案最後以戲劇性筆觸探討 AI 是否擁有意識，指出 AI 模型的道德地位深具不確定性，並認為這是值得嚴肅考量的重要問題，此觀點亦為許多顯赫的心智理論家所支援。