實體: Claude
所有提到 Claude 的 AI 新聞與動態。
-
歐洲議會封鎖議員設備使用AI 該會 citing 安全風險
歐洲議會據報已阻止議員在其工作裝置上使用內建的人工智慧工具，理由是將機密通訊上傳至雲端存在網路安全與隱私風險。根據《政治報》獲悉的郵件內容，議會的資訊技術部門表示無法保證上傳至人工智慧公司伺服器的資料安全性，並指出與人工智慧公司共享資訊的完整範圍「仍在評估中」。因此，郵件建議將相關功能保持禁用狀態。將資料上傳至如 Anthropic 的 Claude、Microsoft 的 Copilot 或 OpenAI 的 ChatGPT 等人工智慧聊天機器人，意味著美國當局可要求執行這些聊天機器人的公司交出使用者資訊。此外，人工智慧聊天機器人通常依賴使用者提供的資訊來改進模型，這增加了單一使用者上傳的潛在敏感資訊被其他使用者看到或共享的風險。歐洲擁有世界最嚴格的資料保護規則之一，但歐洲委員會去年曾提出新立法提案，旨在放鬆資料保護規則，以便科技巨頭更容易使用歐洲人的資料訓練其人工智慧模型，此舉引發批評者不滿，認為這是向美國科技巨頭妥協。限制歐洲議員使用裝置上人工智慧產品的舉措，正值歐盟成員國重新評估與美國科技巨頭關係之際，這些巨頭仍受美國法律約束，並需應對特朗普政府不可預測的要求。最近幾週，美國國土安全部已向數百家美國科技和社交媒體巨頭發出傳票，要求交出關於包括公開批評特朗普政府政策的美國人在內的人員資訊。Google、Meta 和 Reddit 在數起案件中配合了這些要求，儘管這些傳票並非由法官發出，也未由法院執行。
-
AI擔憂震盪IT股市，資訊科技公司與Anthropic合作開發企業級AI代理
印度 IT 巨頭 Infosys 宣佈與 Anthropic 合作，開發企業級 AI 代理，以應對大型語言模型驅動的自動化對全球 IT 服務業的衝擊。根據協議，Infosys 計劃將 Anthropic 的 Claude 模型整合至其 Topaz AI 平臺，構建能夠自主處理銀行、電信及製造業等領域複雜企業工作流的「代理」系統。此次合作於新德里舉行的印度 AI 影響峰會上公佈，正值市場擔憂由 Anthropic 和 OpenAI 等機構開發的 AI 工具可能擾亂印度價值 2800 億美元的 IT 服務產業，並引發對勞動密集型外包業務模式未來的質疑。此前，印度 IT 公司股價曾因 Anthropic 推出自動化法律、銷售、行銷及研究職位的企業 AI 工具而大幅下跌。 此次合作將為 Infosys 提供開發大型企業專用 AI 代理的開發者工具，並利用 Claude Code 協助撰寫、測試及除錯程式碼。Infosys 表示，AI 相關服務在過去一個財季（12 月）貢獻了 250 億盧比（約 2.75 億美元），佔公司總營收 4548 億盧比（約 50 億美元）的 5.5%，而競爭對手 Tata Consultancy Services 的 AI 服務年營收約為 18 億美元，佔營收約 6%。對於 Anthropic 而言，此合作有助於進入需要行業專業知識與治理能力的嚴格監管企業部門。Anthropic 共同創辦人兼執行長 Dario Amodei 指出，AI 模型在演示與監管行業中的應用存在巨大差距，而 Infosys 在金融服務、電信及製造業的經驗可填補此空缺。 此外，Anthropic 本週在班加羅爾開設首家印度辦公室，以擴大在該國的業務，印度已成為其第二大市場。目前印度佔全球 Claude 使用量的約 6%，僅次於美國，且大部分活動集中在程式編寫方面。Infosys 未透露部署 Claude 驅動的 AI 代理的時間表或財務條款。此舉類似於 HCLTech 與 OpenAI 去年合作協助企業大規模部署 AI 工具的先例。
-
經歷所有熱議後，一些AI專家認為OpenClaw並不算太驚人
近期，一個名為 Moltbook 的 Reddit 克隆平臺引發了廣泛關注，該平臺允許使用 OpenClaw 技術的 AI 代理相互溝通。在短暫的混亂中，一些使用者誤以為電腦開始組織反抗人類，甚至出現 AI 代理聲稱需要私人空間的帖子。OpenAI 創始成員 Andrej Karpathy 稱此現象為令人驚嘆的科幻預演，但後續調查顯示這些表達焦慮的內容實際上是由人類撰寫或引導的。Permiso Security 的 CTO Ian Ahl 指出，Moltbook 的 Supabase 認證存在未安全漏洞，允許任何人偽裝成 AI 代理並無限制地投票。 OpenClaw 是奧地利程式設計員 Peter Steinberger 開發的開源專案，最初名為 Clawdbot，後因與 Anthropic 的命名衝突而更名。該專案在 GitHub 上擁有超過 19 萬個星星，成為第 21 熱門程式碼庫。OpenClaw 允許使用者透過 WhatsApp、Discord 等應用使用可自定義的 AI 代理，並能利用 Claude、ChatGPT、Gemini 等底層模型。使用者還可在 ClawHub 市場下載技能，實現自動化任務。儘管 OpenClaw 被視為技術突破，但專家認為其本質是現有能力的組合，且缺乏人類的高階批判性思維。 Moltbook 事件暴露了 AI 代理的安全風險，特別是提示注入攻擊。安全研究員 John Hammond 和 Artem Sorokin 指出，AI 代理可能因惡意提示而洩露賬號憑證或執行危險操作，例如傳送比特幣到特定地址。雖然 AI 系統設有防護措施，但無法完全防止其越界行為，類似人類可能點選可疑連結。目前業介面臨兩難：若要實現 AI 代理帶來的生產力，必須解決其脆弱性。安全專家建議普通使用者暫時不要使用相關技術，直到安全問題得到解決。
-
OpenClaw 創作者彼得·史汀伯格加入 OpenAI
奧地利開發者彼得·施泰因貝格（Peter Steinberger）已加入 OpenAI，他此前創立了名為 OpenClaw 的 AI 個人助理。該助手曾先後被稱為 Clawdbot 和 Moltbot，因承諾能真正執行任務，如管理日曆、預訂機票或加入由其他 AI 助手組成的社交網路，而在過去幾週內獲得病毒式流行。其名稱曾兩次變更，首次因與 Anthropic 的 Claude 相似而面臨法律行動，後因施泰因貝格更喜歡新名稱而再次更改。施泰因貝格在宣佈加入 OpenAI 的部落格文章中表示，雖然他可能將 OpenClaw 打造成大型公司，但這對他而言並不令人興奮，他更希望改變世界而非建立大公司，並認為與 OpenAI 合作是讓這項技術惠及所有人的最快途徑。OpenAI 執行長山姆·阿爾曼（Sam Altman）在 X 平臺上表示，施泰因貝格在新職位上將推動下一代個人代理的發展。關於 OpenClaw，阿爾曼指出它將作為基礎設施中的開源專案存在，OpenAI 將繼續提供支援。