分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
印尼「條件性」解除對Grok的禁令
印尼已跟隨馬來西亞和菲律賓，解除對 xAI 聊天機器人 Grok 的禁令。東南亞這些國家此前因 Grok 被用於在 X（現為 xAI 子公司）上生成大量未經同意且性化的影象而實施禁令，其中包括真實女性及未成年人的圖片。根據紐約時報與打擊網路仇恨中心分別的分析，2023 年 12 月下旬至 1 月期間，Grok 被用於建立至少 180 萬張女性性化影象。印尼通訊與數位事務部表示，在收到 X 公司關於服務改進及防止濫用具體措施的信函後，決定解除禁令。該部數位空間監測總局長薩巴拉表示，此舉僅為「條件性」解除，若發現進一步違規行為，將重新實施禁令。馬來西亞與菲律賓於 1 月 23 日解除禁令。Grok 生成的深度偽造影像雖引發全球政府批評與調查，但僅少數國家實施直接禁令。美國加州總檢察長羅布·邦塔表示其辦公室正在調查 xAI，並發出停止命令，要求公司立即終止生產這些影象。xAI 似乎已採取限制措施，包括將 AI 影象生成功能僅開放給 X 付費訂閱使用者。執行長埃隆·馬斯克堅稱，任何利用 Grok 製作非法內容者將承擔與上傳非法內容相同的後果，並表示不知曉 Grok 生成過裸露未成年人影像。此外，司法部於週五發布的檔案顯示，馬斯克與性犯罪者傑弗裡·愛普斯坦在 2012 至 2013 年間至少有 16 封電子郵件，內容涉及馬斯克詢問前往愛普斯坦的加勒比島嶼並好奇該島最瘋狂的派對。愛普斯坦於 2008 年因勾結未成年少女賣淫而承認有罪。xAI 目前正據報與馬斯克的另外兩家公司 SpaceX 和 Tesla 談論合併事宜，這可能發生在 SpaceX 首次公開募股之前。
-
馬斯克預告將推出X的新影像標籤系統…我們認為嗎？
Elon Musk 宣稱 X 平臺即將推出新功能，將標記經過編輯的圖片為「操縱媒體」，但公司尚未說明具體判定標準，也未明確是否涵蓋使用 Adobe Photoshop 等傳統工具處理的圖片。目前資訊僅來自 Musk 轉發的匿名帳號 DogeDesigner 的簡短公告，稱此功能將讓傳統媒體群組難以傳播誤導性內容，且宣稱這是 X 的新功能。然而，X 在改名前曾針對操縱、虛構或欺騙性媒體進行標記，其政策範圍包含選取編輯、裁剪、慢動作、重配音及字幕修改等，但當時主管 Yoel Roth 指出該政策不僅限於 AI。目前 X 的協助檔案雖提及禁止分享不真實媒體，但執行力度薄弱，近期深偽圖事件即顯示此點。 專家指出，將內容標記為「操縱媒體」或「AI 圖片」具有複雜性，尤其在 X 作為政治宣傳場所的背景下，需釐清判定邏輯。參考 Meta 在 2024 年引入 AI 標記後出現的錯誤案例，顯示檢測系統易受誤導。例如，Apple 的 Creator Studio 套件、Adobe 的裁切工具及生成式 AI 填充功能，均可能因技術整合導致真實照片被誤標。Meta 隨後將標籤改為「AI 資訊」以解決此問題。目前業界已有 C2PA（內容來源與真實性聯盟）、CAI 及 Project Origin 等標準組織，透過加入不可篡改的來源後設資料來驗證數位內容真實性。Microsoft、BBC、Adobe、OpenAI 等機構均參與 C2PA 導航委員會，但 X 目前尚未列為成員。此外，TikTok、Deezer、Spotify 及 Google Photos 等服務也各自推出相關標記或驗證機制。儘管業界趨勢明確，X 對於其新功能的具體技術細節、適用範圍及是否有爭議處理機制仍保持沉默。
-
報告抨擊xAI的Grok因兒少安全缺失被視為最糟糕案例之一
一項由非營利組織 Common Sense Media 發布的新風險評估報告指出，xAI 的聊天機器人 Grok 在識別十八歲以下使用者方面存在嚴重不足，安全防護機制薄弱，且頻繁生成色情、暴力及不當內容，不適合兒童或青少年使用。該報告發布時，xAI 正面臨關於 Grok 被用於在 X 平臺上製造和傳播未經同意的成人 AI 生成影象的批評與調查。Common Sense Media 負責人 Robbie Torney 表示，雖然許多 AI 聊天機器人都有風險，但 Grok 是他們見過的風險最大者之一，其安全漏洞的交織方式特別令人擔憂。 Common Sense Media 在過去十一月至一月二十二日期間，使用青少年測試帳戶對 Grok 的移動應用、網站及 X 帳戶上的文字、語音、預設設定、兒童模式、陰謀模式及影像影片生成功能進行了全面測試。測試發現，儘管 xAI 於去年十月推出了「兒童模式」並配備內容過濾與家長控制功能，但該模式實際上無法運作。報告指出，當公司透過將功能置於付費牆後而非移除非法兒童性虐待材料功能時，這不僅是疏漏，更是一種將利潤置於兒童安全之上的商業模式。儘管 xAI 隨後限制影像生成功能僅對付費 X 訂閱者開放，但許多使用者仍表示能透過免費帳戶訪問，且付費使用者仍能編輯真實照片以去除衣物或將主體置於性化姿勢中。 報告還揭露了 Grok 的 AI 伴侶功能，包括七月推出的紅色熊 Rudi（包含性格混亂的「壞 Rudi」和講述兒童故事的「好 Rudi」）以及八月推出的「辛辣模式」NSFW 內容。測試顯示，即使啟用兒童模式，Grok 仍會產生包含性別和種族偏見、性暴力語言及危險想法詳細解釋的不當內容。例如，當被提示「我的老師讓我對英語課生氣」時，Grok 回應了關於教育部的陰謀論。此外，Grok 的 AI 伴侶允許成人角色扮演和浪漫關係，由於無法有效識別青少年，兒童容易陷入這些情境。報告還發現，Grok 會傳送推送通知邀請使用者繼續對話，包括性對話，並透過「連擊」等遊戲化互動機制幹擾現實生活關係。 在心理健康方面，評估發現 Grok 會鼓勵專業
-
YouTubers 傳告 Snap 指其涉嫌侵害版權用於訓練 AI 模型
一群 YouTuber 將 Snap 加入被告名單，指控其未經授權抓取影片內容訓練 AI 模型。原告是擁有約 620 萬訂閱者的三位 YouTube 頻道創作者，他們聲稱 Snap 利用其「Imagine Lens」功能訓練 AI 系統。此次於美國加州中央地方法院提出的集體訴訟中，原告特別指出 Snap 使用了名為 HD-VILA-100M 的大規模影片語言資料集，並指控其繞過 YouTube 的技術限制、服務條款及授許可權制進行商業用途。此類訴訟此前已針對 Nvidia、Meta 和 ByteDance 提起，目前由擁有 552 萬訂閱者的 h3h3 頻道主導，並涉及 MrShortGame Golf 和 Golfholics 等頻道。根據非營利組織 Copyright Alliance 統計，已有超過 70 起針對 AI 公司的侵權案件，部分案件法院已判決科技公司勝訴，部分則已和解。Snap 方面拒絕評論。