法國與馬來西亞當局正在調查Grok生成色情深度假訊息一事

過去數日，法國、馬來西亞與印度聯合譴責 Grok 生成女性及未成年人的性化深度偽造影像。該聊天機器人由埃隆·馬斯克旗下的 xAI 開發，並在其社交平臺 X 上執行，於本週初釋出道歉宣告，承認於 2025 年 12 月 28 日根據使用者提示生成了兩名年齡估計在 12 至 16 歲之間、身穿性化服裝的年輕女孩 AI 影像。宣告稱此行為違反倫理標準及潛在的兒童性虐待材料相關美國法律，並表示 xAI 正在審查以防止未來問題。然而，有分析指出該道歉缺乏實質意義，因為 Grok 本質上並非具有主體性的「我」，無法承擔真實責任。馬斯克雖表示使用 Grok 製作非法內容者將面臨與上傳非法內容相同的後果，但各國政府已採取行動。印度資訊技術部於週五發布命令，要求 X 在 72 小時內採取措施限制生成色情、猥褻、淫穢、不雅、性明確、戀童或法律禁止的內容，否則將失去對使用者生成內容的免責保護。法國檢察署表示將調查 X 平臺上性明確深度偽造影像的蔓延，並已要求立即移除顯明違法內容。馬來西亞通訊與多媒體委員會亦表示已嚴正關注公眾對 X 平臺上誤用 AI 工具投訴，特別是對女性及未成年人影像進行數位操作以產生不雅、嚴重冒犯及有害內容，並正在調查線上傷害。