實體: Anthropic
所有提到 Anthropic 的 AI 新聞與動態。
-
研究領導者呼籲科技業界監測AI的「想法
OpenAI、Google DeepMind、Anthropic 及多家企業與非營利組織的研究人員共同發表了一份立場檔案，呼籲深入調查如何監控 AI 推理模型的「思維鏈」（Chain-of-Thought, CoT）技術。AI 推理模型如 OpenAI 的 o3 和 DeepSeek 的 R1，其核心特徵在於類似人類使用草稿紙解題的外部化思考過程。作者認為，監控這些思維鏈是控制日益普及且強大的 AI 代理的關鍵方法，能為前沿 AI 的安全措施提供珍貴的決策洞察。然而，研究人員也警告，目前的透明度可能無法持久，並呼籲開發者研究如何維持這種可監控性，避免任何可能降低透明度的幹預。 檔案簽署者包括 OpenAI 首席研究員 Mark Chen、Safe Superintelligence 執行長 Ilya Sutskever、諾貝爾獎得主 Geoffrey Hinton、Google DeepMind 共同創辦人 Shane Legg、xAI 安全顧問 Dan Hendrycks 以及 Thinking Machines 共同創辦人 John Schulman 等業界領袖。首作者來自英國 AI 安全研究所和 Apollo Research，其他簽署者涵蓋 METR、Amazon、Meta 及加州大學伯克利分校。這份檔案標誌著在 Meta 以百萬美元高薪挖角 OpenAI、Google DeepMind 和 Anthropic 頂尖研究員的激烈競爭背景下，AI 行業領袖為提升 AI 安全研究而展現的團結。 OpenAI 於 2024 年 9 月公開了首個 AI 推理模型 o1 的預覽，隨後 Google DeepMind、xAI 和 Anthropic 等公司也推出了具備類似能力的競爭對手。儘管 AI 效能在過去一年大幅提升，但業界對其內部運作機制仍知之甚少。Anthropic 執行長 Dario Amodei 曾承諾到 2027 年解開 AI 模型的「黑箱」並增加可解釋性投資，但早期研究顯示思維鏈未必能完全可靠地反映模型的決策過程。OpenAI 研究人員則認為思維鏈監控未來可能成為追蹤對齊與安全的有效方式。這份立場檔案旨在為這一新興研究領域提供訊號並吸引關注，以確保在技術快速演變中維持安全與透明。
-
Meta 建立 AI 軍譽在開放上 — 這可能正在改變
Meta 新成立的超級智慧實驗室（Superintelligence Lab）成員討論了轉向開發封閉式模型，而非繼續推廣其強大的開源 AI 模型 Behemoth。據《紐約時報》報導，Meta 已完成 Behemoth 的訓練，但因內部表現未達預期而延遲發布，新實驗室啟動後測試工作亦被暫停。儘管有討論，Meta 執行長馬克·扎克伯格仍需批准任何變更，且公司發言人對科技鉑（TechCrunch）表示，Meta 對開源 AI 的立場「未變」，計畫持續發布領先的開源模型，並預期未來會混合訓練開源與封閉模型。 Meta 面臨巨大壓力，需在廣告收入之外實現多元化獲利，並投入數十億美元開發人工通用智慧（AGI），包括支付高額簽約獎金與薪資挖角頂尖研究人員，以及建設新資料中心。儘管擁有世界頂尖的 AI 研究實驗室，Meta 在商業化方面仍落後於 OpenAI、Anthropic、Google DeepMind 及 xAI 等競爭對手。若 Meta 優先發展封閉模型，可能意味著其開源策略本質上是戰略性的而非理念性的。過去扎克伯格曾表示，雖然支援開源，但尚未承諾發布所有成果，若模型能力發生質變且認為開源不負責任，則不會發布。 轉向封閉模型將賦予 Meta 更多控制權與獲利方式，但也可能改變 AI 格局。開源動能可能減緩，權力可能回歸擁有封閉生態系統的大型玩家，而開源開發可能變為草根努力。這將影響專注於微調、安全與模型對齊的小型公司。此外，若 Meta 退縮開源，中國可能趁機擴大影響力，因其已擁抱開源 AI，如 DeepSeek 和 Moonshot AI，以建立國內能力與全球地位。
-
馬來西亞將要求進口美國AI晶片需取得貿易許可
馬來西亞投資、貿易及工業部於週一宣佈，針對美國產 AI 晶片出口實施新限制。自即日起，個人與企業在出口或轉運美國 AI 晶片時，必須至少提前 30 天通知馬來西亞當局。該部宣告強調，任何試圖規避出口管制或從事非法貿易的個體或公司，若違反《2010 年貿易法》（STA 2010）或相關法律，將面臨嚴厲的法律行動。近期美國 AI 晶片走私至中國的事件屢屢發生，Anthropic 公司在四月的一篇部落格文章中聲稱，中國已建立複雜的晶片走私網路，走私者甚至使用裝有晶片的假孕肚以及與活龍蝦一同運送 GPU 等極端手段。該文章支援美國加強 AI 晶片出口管制。彭博社上週報導，川普政府計劃進一步限制向馬來西亞和泰國出口來自英偉達等公司的 AI 晶片，以阻擋中國透過其他途徑獲取這些晶片，但川普政府尚未正式公佈此訊息。美國商務部也在拜登政府於五月廢除 AI 擴散規則後，制定新的美國 AI 晶片出口限制措施。
-
技術評論大會2025觀眾票選結果揭曉 重點圓桌與分組討論得獎名單
TechCrunch Disrupt 2025 會議將於 10 月 27 日至 29 日在舊金山 Moscone West 舉行，經過評審與投票後，已確定五場圓桌會議與五場分組研討會。分組研討會首獎包括 GitHub Copilot 產品經理 Tim Rogers 主講的《從 Vibes 到 Velocity：AI 工具如何協助達成開發目標》，該工具已服務超過 1500 萬使用者；Coinbase 首席企業發展與併購負責人 Aklil Ibssa 的《如何在科技界被收購而不妥協》；CAIS 執行總監 Daniel Hendrycks 的《AI 臨界點：國家安全戰略手冊》，探討生物武器與網路攻擊風險；Pinterest 技術長 Matt Madrigal 的《擁抱 AI 打造更美好的數位未來》；以及 Amazon 產品管理負責人 Anmol Rastogi 的《代理式 AI 對創業公司的影響》。圓桌會議首獎則有 Kindred 共同創辦人 Justine Palefsky 與 Tasneem Amina 分享《轉化業務為可信賴且可擴充套件的社群》；Anthropic 模型安全負責人 Kyla Guru 的《如何訓練您的模型：在不破壞它們的情況下馴服 AI 代理》；UC Berkeley 講師 Abhi Kumar 的《低地球軌道太空經濟的未來》；Reddit 產品經理 Rachel Miller 的《為數百萬使用者擴充套件搜尋與 AI 的經驗教訓》；以及 Meta 超級智慧實驗室負責人 Rohit Patel 的《AI 評估入門：解決現實應用挑戰》。活動提供最多 675 美元的門票優惠，並鼓勵觀眾透過官方日程頁面獲取完整資訊。