分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
Anthropic 的 Claude 兩週內於 Firefox 發現 22 個漏洞
安提洛普（Anthropic）與 Mozilla 近期展開安全合作，在 Firefox 瀏覽器中發現了 22 個獨立漏洞，其中 14 個被歸類為高嚴重性。大多數缺陷已在今年二月發布的 Firefox 148 版本中修復，部分修復則需等待下一個版本。安提洛普團隊使用 Claude Opus 4.6 模型，耗時兩週進行掃描，從 JavaScript 引擎開始，逐步擴充套件至程式碼庫其他部分。團隊表示選擇 Firefox 是因為其程式碼庫複雜，同時也是全球最受測試和安全保障的開源專案之一。值得注意的是，Claude Opus 在發現漏洞方面的表現優於編寫利用這些漏洞的軟體。團隊最終花費 4000 美元 API 信用額度試圖構建概念驗證利用程式碼，僅在兩個案例中成功。儘管如此，這提醒人們 AI 工具對開源專案的強大潛力，但也可能伴隨大量低質合併請求。
-
Meta因AI智能眼鏡的隱私問題被訴，員工曾審閱裸露、性愛及其他視頻內容
Meta 因 AI 智慧眼鏡的隱私問題面臨新的集體訴訟。瑞典報紙調查發現，一家位於肯亞的分包商員工正在審查使用者眼鏡拍攝的影片，內容包含裸露、性行為及如廁等敏感畫面。雖然 Meta 聲稱已對影像進行模糊處理，但來源指出該功能並未一致運作。此訊息促使英國資訊事務辦公室展開調查，同時美國也提起訴訟。原告吉娜·巴特諾和馬特奧·卡努委託克拉克森律師事務所，指控 Meta 違反隱私法並進行虛假宣傳。原告指出，Meta 宣稱其眼鏡「為隱私設計」、「由您掌控」，但實際上海外員工可檢視使用者私密內容，且無明確免責宣告。訴訟將 Meta 及其製造夥伴 Luxottica 美國公司列為被告，指責其違反消費者保護法。克拉克森律師事務所曾對 Apple、Google 及 OpenAI 提起重大訴訟，並指出問題規模巨大。2025 年超過七百萬使用者購買了 Meta 智慧眼鏡，其拍攝內容被送入資料管道供審查，使用者無法選擇退出。Meta 向 BBC 表示，為提升體驗會使用合約商審查使用者分享給 Meta AI 的內容，並援引其隱私政策與補充服務條款，但具體位置未明確說明。英國及美國版本的服務條款均提及人工審查可能。原告提供的廣告顯示，Meta 強呼叫戶對資料和內容的掌控權，並宣稱增加了安全層級。隨著智慧眼鏡等「豪華監控」技術興起，社會反彈強烈，甚至有開發者推出檢測眼鏡位置的應用程式。Meta 發言人克里斯托弗·斯格羅表示，除非使用者主動分享，否則媒體檔案保留在使用者裝置上；若分享給 Meta AI，有時會使用合約商審查以改善體驗，並採取過濾措施保護隱私。
-
Apple Music 將加入透明標籤以區分 AI 音樂，報導指出
Apple Music 正在改變唱片公司與分銷商在上傳內容時標記人工智慧生成或輔助內容的方式。根據 Music Business Worldwide 報導，Apple 於週三傳送給產業夥伴的新聞簡報，說明將推出新的後設資料以促進對人工智慧在音樂中使用方式與時點的透明度。後設資料通常指歌曲標題、專輯名稱、型別、藝術家名稱等有助於整理檔案的欄位。現在 Apple Music 將新增選項，讓分銷商能加入標記，用以標示歌曲特定部分涉及人工智慧生成。這些標記允許分銷商區分歌曲的封面、音軌（音樂）、作曲（歌詞）或音樂影片。這似乎是 Apple Music 使用者感興趣的功能，一名 Reddit 使用者就在數天前發布了類似功能概念的模擬圖。然而，這種自願標記的缺點在於，是否標記取決於唱片公司或分銷商是否手動選擇。Spotify 正採取類似路徑。其他音樂串流平臺如 Deezer 試圖使用內部人工智慧檢測工具來標記內容，但建立極度準確的系統仍具挑戰性。TechCrunch 已聯絡 Apple 尋求更多資訊。
-
AI安全攻防戰：Max Tegmark談政府、Anthropic與未來走向
在 StrictlyVC Download 節目中，Connie Loizos 與 Alex Gove 邀請麻省理工學院人工智慧研究員 Max Tegmark 探討人工智慧公司與美國政府之間日益加劇的衝突，以及誰應該控制日益強大的人工智慧系統這一核心問題。節目討論了特朗普政府推動淘汰 Anthropic 技術的舉措，以及向超級智慧進軍的廣泛競賽。Tegmark 強調，真正的風險不僅是地緣政治競爭，更是失去對所建造系統的控制權。他主張將人工智慧視為其他高風險產業，在技術超越人類管理能力之前，實施具有約束力的安全標準和獨立監管。此外，星期三，包括 Tegmark 的未來生命研究所（Future of Life Institute）在內的一個廣泛聯盟發布了「支援人類人工智慧宣言」（Pro-Human AI Declaration），闡述了一條讓人工智慧最好地服務於人類的發展路徑。相關宣告可於指定連結檢視。