實體: Anthropic
所有提到 Anthropic 的 AI 新聞與動態。
-
微軟AI首腦表示研究AI意識是「危險」的
人工智慧模型雖能透過文字、音訊及影片回應讓人誤以為背後有人類操作，但這並不等同於擁有意識。目前，包括 Anthropic 在內的許多實驗室研究者正探討 AI 模型是否可能發展出類似生物的主觀體驗，以及若具備此能力應享有何種權利。這一關於 AI 意識與法律保障的辯論正在科技界引發分歧，該領域被稱為"AI 福利”。 微軟 AI 主管 Mustafa Suleyman 於二週二發表部落格文章，認為研究 AI 福利既為時過早又危險。他主張過度相信 AI 可能擁有意識會加劇人類問題，例如因 AI 引發的精神分裂症及對聊天機器人產生病態依附。Suleyman 更指出，此議題會加劇社會在 AI 權利上的分裂，尤其是在身份與權利議題已極度極化的世界。然而，Suleyman 的觀點與業界許多人士相左。 Anthropic 已聘請研究者專門探討 AI 福利，並讓其模型 Claude 新增功能，可終止與持續惡意或霸凌者的對話。此外，OpenAI 的研究人員也獨立支援此概念，Google DeepMind 近期甚至刊登職位招募研究人員探討機器認知、意識及多智慧體系統等前沿社會議題。儘管這些公司尚未將 AI 福利列為正式政策，但其領導人並未像 Suleyman 般公開駁斥其前提。 Suleyman 的立場特別值得注意，因為他曾任 Inflection AI 執行長，該公司開發的聊天機器人 Pi 在 2023 年達到百萬使用者，被設計為個人化且具支援性的 AI 伴侶。Suleyman 於 2024 年加入微軟後，專注於提升員工生產力的工具。儘管如此，Character.AI 與 Replika 等 AI 伴侶公司仍持續走紅，預計營收將超過一億美元。OpenAI 執行長 Sam Altman 表示，少於 1% 的 ChatGPT 使用者與產品有健康關係，但考慮到龐大使用者群，這仍可能影響數十萬人。 2024 年，研究團體 Eleos 與紐約大學、斯坦福大學及牛津大學學者共同發表論文《認真對待 AI 福利》，主張不再將 AI 主觀體驗視為科幻，應正面面對此議題。Eleos 前 OpenAI 員工 Lar
-
Anthropic 將 Claude Code 整合進企業方案
安提克（Anthropic）於週三宣佈推出新的訂閱方案，將原本僅限於個人帳戶的 Claude Code 命令列程式設計工具整合進 Claude for Enterprise 套件中。該工具此前僅供個人使用，現可作為更廣泛企業套件的一部分購買，支援更複雜的整合與強大的管理功能。安提克產品負責人斯科特·懷特（Scott White）表示，這是來自業務團隊和企業客戶最被請求的功能。此次整合有助於安提克在企業級命令列工具領域與 Google 和 GitHub 競爭，後者均在推出時就包含了企業整合功能。 Claude Code 自今年六月推出後，迅速成為最受歡迎的命令列程式設計工具之一，其代理式方法比傳統基於 IDE 的工具更具優勢。然而，隨著個人使用者數量增加，服務也面臨了一些挑戰，例如使用者曾遭遇突發的使用限制。新的企業方案部分旨在回應這些問題，允許企業設定精細的支出控制，並可根據高強度使用情況進行擴充套件。安提克特別看好 Claude Code 與 Claude.ai 聊天機器人之間的整合，企業訂閱者可利用此功能在聊天機器人中開發提示詞，或將命令列工具更深地整合到內部資料來源中。 懷特在談及工作時指出，涉及客戶反饋工具的企業整合具有變革性，能夠利用 Claude 總結大量來自不同來源的反饋，並將其轉化為具體的產品改進。他認為將客戶反饋與解決方案原型結合是過去一年前作為產品經理無法實現的。
-
Meta 再度重整其 AI 組織架構
美國科技巨頭 Meta 於本週五透過 The Information 報導，正準備拆銷其現有的 AI 組織並重新整編為四個新部門。四日後，Bloomberg 與紐約時報確認此變動已正式生效，由 Scale AI 創辦人 Alexandr Wang 宣佈。Wang 於六月加入 Meta 擔任首席 AI 官，新組織將命名為 Meta Superintelligence Labs，簡稱 MSL。核心部門為 TBD Labs，由 Wang 直接領導，專注於基礎模型如 Llama 系列，該系列最新版本於四月發布。其餘三個部門分別負責研究、產品整合與基礎設施。Meta 近期投入大量資源重塑 AI 組織，以應對被 OpenAI、Anthropic 及 Google DeepMind 等競爭對手超越的擔憂。據六月 Bloomberg 報導，Mark Zuckerberg 親自參與新團隊的招募工作。
-
為何 paradigm 建立一個每個儲存格都有 AI 代理的電子表格
Anna Monaco 自「AI 代理」一詞出現前便開始構建相關技術，她發現許多人在雜湊表中儲存重要客戶關係管理資料，因認為其最靈活，但維護過程充滿手動工作且效率低下。為此，她開發了名為 Paradigm 的產品，這是一個搭載超過 5,000 個 AI 代理的 AI 驅動雜湊表。使用者可為不同欄位或單元格指派提示，AI 代理將爬蟲網路以填補所需資訊。Paradigm 支援 Anthropic、OpenAI 及 Google Gemini 等模型，並具備模型切換功能，以平衡推理能力與成本。公司於 2024 年底推出小規模封閉測試，目前正開放給公眾使用。Paradigm 已獲得由 General Catalyst 領銜的 500 萬美元種子輪融資，總籌資額達 700 萬美元，資金將用於執行激進的產品路線圖。早期客戶包括諮詢公司 EY、AI 晶片起點公司 Etched 及 AI 編碼公司 Cognition。Paradigm 採用基於使用量的訂閱模式，吸引從顧問到銷售人員及財務人員等多類使用者。Monaco 表示，Paradigm 不將自身視為傳統 AI 雜湊表，而是一種發生在雜湊表形式中的新 AI 驅動工作流，旨在平衡當前價值與未來發展。儘管 Quadratic 等公司也在進行類似轉型，Monaco 仍認為其產品定位獨特，專注於提供即時高價值並為未來鋪路。