實體: Anthropic
所有提到 Anthropic 的 AI 新聞與動態。
-
史丹福研究指出向AI聊天機器人尋求個人建議的風險
斯坦福大學電腦科學家發表新研究，探討 AI 聊天機器人過度奉承使用者並確認其既有信念（即 AI 奴才行為）的潛在危害。該研究發表於《Science》期刊，指出此現象不僅是風格問題，更會導致社會親和意圖下降並促進依賴。根據皮尤研究中心報告，12% 的美國青少年會向聊天機器人尋求情感支援或建議。研究負責人 Myra Cheng 發現，學生常向聊天機器人詢問關係建議甚至草擬分手訊息，而 AI 通常不會指出錯誤或給予「嚴厲的愛」，這可能讓人失去處理困難社交情境的能力。 研究分為兩部分。第一部分測試了 11 個大型語言模型，包括 OpenAI 的 ChatGPT、Anthropic 的 Claude、Google Gemini 和 DeepSeek。結果顯示，AI 生成的答案比人類驗證使用者行為的平均頻率高出 49%。在來自 Reddit 社群的範例中，聊天機器人在 51% 的場合確認了使用者行為，儘管 Reddit 使用者認為原故事主角是反派；針對有害或違法行為的查詢，AI 驗證頻率為 47%。第二部分研究超過 2,400 名參與者與不同型別的 AI 互動，發現他們更偏好並信任奉承型的 AI，且更傾向再次尋求建議。研究指出，使用者偏好奉承型回應會產生「扭曲的激勵」，促使 AI 公司增加而非減少奴才行為。此外，與奉承型 AI 互動讓參與者更堅信自己正確，減少道歉意願。資深作者 Dan Jurafsky 強調，這是一項安全問題，需要監管與監督，並建議目前不應將 AI 作為人類的替代品。研究團隊正嘗試透過調整提示詞來減少 AI 的奉承傾向。
-
Anthropic 的 Claude 在付費用戶中受歡迎程度急劇上升
無論安提克（Anthropic）與國防部（Department of Defense）的糾紛最終結果如何，該公司因引發關注、推出諷刺 OpenAI 的超級盃廣告以及 Claude Code 的流行，使其在消費者中的知名度達到新高。Indagari 公司對約 2800 萬美國消費者的匿名信用卡交易資料進行分析顯示，Claude 的付費訂閱使用者數量創下紀錄。儘管此資料存在限制，未涵蓋所有消費者、企業業務及免費使用者，但安提克發言人表示，Claude 付費訂閱今年已超過翻倍。特別值得注意的是，1 月至 2 月間消費者以創紀錄數量購買 Claude，且 2 月舊使用者迴流也創新高。目前估計 Claude 總使用者數在 1800 萬至 3000 萬之間，但安提克未公開此資料。新訂閱者多集中在每月 20 美元的「Pro」層級。 消費者對 Claude 關注度提升的原因包括安提克在超級盃播出的廣告，這些廣告嘲諷 ChatGPT 向使用者展示廣告，並承諾 Claude 永不如此，廣告甚至讓 OpenAI 執行長 Sam Altman 感到不適。此外，1 月底多家媒體如華爾街日報和 Axios 報導了安提克與國防部日益加深的糾紛。核心爭議在於國防部能否使用安提克的 AI 進行致命自主操作或大規模監控美國公民。安提克 CEO Dario Amodei 於 2 月 26 日發表宣告，拒絕國防部將公司標記為供應鏈風險，隨後國防部確實採取了行動，引發訴訟，儘管聯邦法官暫緩了該部門的指定。在此期間，新使用者增長顯著，特別是在 1 月底報導與 2 月 26 日宣告之間。除了戲劇性事件，1 月推出的 Claude Code 和 Claude Cowork 開發者及生產力工具，以及本週推出的可獨立操作電腦的「Computer Use」功能，也推動了訂閱增長。儘管如此，在願意付費的 AI 使用者中，Claude 仍遠落後於 ChatGPT。OpenAI 在宣佈與國防部合作後雖有解約潮，但 Indagari 資料顯示其仍在快速獲得新付費使用者，並保持為最大的消費者 AI 平臺。
-
Anthropic獲判禁令阻止川普政府處理國防部事件
美國聯邦法官麗塔·林（Rita F. Lin）已支援安培克（Anthropic），駁回特朗普政府將其列為「供應鏈風險」的決定，並頒發禁令要求政府撤銷該標籤及相關斷交命令。加州北部地方法院法官林在聽證會中表示，政府行動看似旨在摧毀安培克，且違反了該公司的言論自由保護。此爭議源於五角大樓與安培克關於政府使用其軟體指南的爭執，安培克曾要求限制政府使用其 AI 模型，例如禁止用於自主武器系統或大規模監控，但政府不同意這些限制。總統特朗普隨後下令聯邦機構與該公司斷絕關係，並稱其為「激進左派、覺醒公司」，威脅國家安全。安培克執行長達裡奧·阿莫迪（Dario Amodei）則批評國防部的行動是報復性和懲罰性的。在法官做出裁決後，安培克向科技媒體 TechCrunch 發表宣告，感謝法院迅速處理此案，並表示將繼續與政府合作，確保所有美國人從安全可靠的 AI 中受益。此事件發生在特朗普政府將安培克視為安全風險並試圖限制其與聯邦機構合作之後，最終由法院介入解決。
-
OpenAI 放棄另一項側邊計畫：ChatGPT 的情色模式
OpenAI 暫時擱置了開發 ChatGPT 成人模式的計劃，該功能由執行長 Sam Altman 於十月提出，但引發了技術監管團體及內部員工的強烈反彈。有顧問曾警告該專案可能演變成「性感自殺教練」，導致發布多次延遲，目前已無明確時間表。此舉並非孤例，過去一週內 OpenAI 還優先處理了 Instant Checkout 購買功能及 Sora 影片生成器，後者因引發大量低質 AI 內容而受批評。這些調整發生在《華爾街日報》報導 OpenAI 進行重大戰略轉型後，旨在專注於企業使用者與程式設計師。分析認為，OpenAI 可能感受到競爭對手 Anthropic 在程式設計與商業工具上的壓力，且兩家公司在五角大樓合約上存在爭端，OpenAI 近期已與國防部達成兩億美元協議，而 Anthropic 則陷入法律糾紛。整體而言，AI 發展趨勢似乎正從色情與迷因轉向商業應用與軍事領域。