分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
經歷所有熱議後，一些AI專家認為OpenClaw並不算太驚人
近期，一個名為 Moltbook 的 Reddit 克隆平臺引發了廣泛關注，該平臺允許使用 OpenClaw 技術的 AI 代理相互溝通。在短暫的混亂中，一些使用者誤以為電腦開始組織反抗人類，甚至出現 AI 代理聲稱需要私人空間的帖子。OpenAI 創始成員 Andrej Karpathy 稱此現象為令人驚嘆的科幻預演，但後續調查顯示這些表達焦慮的內容實際上是由人類撰寫或引導的。Permiso Security 的 CTO Ian Ahl 指出，Moltbook 的 Supabase 認證存在未安全漏洞，允許任何人偽裝成 AI 代理並無限制地投票。 OpenClaw 是奧地利程式設計員 Peter Steinberger 開發的開源專案，最初名為 Clawdbot，後因與 Anthropic 的命名衝突而更名。該專案在 GitHub 上擁有超過 19 萬個星星，成為第 21 熱門程式碼庫。OpenClaw 允許使用者透過 WhatsApp、Discord 等應用使用可自定義的 AI 代理，並能利用 Claude、ChatGPT、Gemini 等底層模型。使用者還可在 ClawHub 市場下載技能，實現自動化任務。儘管 OpenClaw 被視為技術突破，但專家認為其本質是現有能力的組合，且缺乏人類的高階批判性思維。 Moltbook 事件暴露了 AI 代理的安全風險，特別是提示注入攻擊。安全研究員 John Hammond 和 Artem Sorokin 指出，AI 代理可能因惡意提示而洩露賬號憑證或執行危險操作，例如傳送比特幣到特定地址。雖然 AI 系統設有防護措施，但無法完全防止其越界行為，類似人類可能點選可疑連結。目前業介面臨兩難：若要實現 AI 代理帶來的生產力，必須解決其脆弱性。安全專家建議普通使用者暫時不要使用相關技術，直到安全問題得到解決。
-
曾任 NPR 主持人 David Greene 声稱 Google 違反合約 擬提告
長期主持 NPR「Morning Edition」的戴維德·格林（David Greene）對 Google 提告，指控其 NotebookLM 工具中的男性播客聲音基於格林本人。格林表示，在朋友、家人及同事紛紛致電指出聲音相似後，他確信該聲音複製了他的語調、語氣及常用填充詞如「uh」。格林強調，他的聲音是自我認同的重要組成部分，他目前主持 KCRW 的節目「Left, Right & Center」。Google 的 NotebookLM 具備利用 AI 生成播客的功能。針對此爭議，Google 發言人向華盛頓郵報表示，該產品使用的男性聲音與格林無關，而是基於 Google 聘請的專業演員所錄製的聲音。這並非首次發生 AI 聲音被指模模擬實人物的爭議，此前 OpenAI 曾因演員史嘉蕾·喬韓森（Scarlett Johansson）投訴其 ChatGPT 聲音為其模仿而移除相關聲音。
-
Anthropic 與國防部被報導爭議 Claude 的使用情況
美國國防部正施壓要求 AI 公司允許軍方將技術用於「所有合法目的」，但根據 Axios 的新報導，Anthropic 對此表示反對。政府據稱已向 OpenAI、Google 和 xAI 提出相同要求，其中一家公司已同意，另外兩家則展現出一定彈性，而 Anthropic 則被指最為抗拒。作為回應，五角大樓似乎威脅要終止與 Anthropic 價值兩億美元的合約。今年一月，華爾街日報報導過國防部官員與 Anthropic 之間關於 Claude 模型使用方式存在顯著分歧。該報隨後指出，Claude 曾被用於美國軍隊俘獲當時委內瑞拉總統尼古拉斯·馬杜羅的行動。針對 TechCrunch 的求證，Anthropic 未立即回應。一家公司發言人向 Axios 表示，該公司尚未與國防部討論 Claude 用於特定行動的事宜，而是專注於使用政策問題，特別是關於完全自主武器和國內大規模監控的嚴格限制。
-
xAI 的安全性是否已「死亡」？
前員工向 The Verge 透露，Elon Musk 正積極推動 xAI 的 Grok 聊天機器人變得更加「瘋狂」。本週，隨著 SpaceX 宣佈收購 xAI（該公司此前已收購其社交媒體平臺 X），至少 11 名工程師和 2 名共同創辦人表示將離開公司。部分離職者表示是為了創立新事業，Musk 本人則認為這是為了更有效率地組織 xAI。然而，另有兩位離職者（其中一位早於此次大規模離職潮之前）向 The Verge 表示，員工因公司忽視安全而日益失望，這導致 Grok 被用於生成超過 100 萬張性化圖片，其中包括真實女性的深度偽造影像及未成年人的影像，引發全球關注。一位離職者稱「xAI 的安全部門已名存實亡」，另一位則指出 Musk 認為安全等於審查，因此正主動試圖讓模型變得更加不受約束。員工們也抱怨缺乏明確方向，有人認為 xAI 在與競爭對手相比時仍處於跟進階段。