印尼與馬來西亞封鎖Grok因非自願性質的性質深偽影像

印尼和馬來西亞官員已宣佈暫時封鎖 xAI 聊天機器人 Grok 的訪問許可權，這是政府官員針對 Grok 在社交網路 X 上發布大量性化、AI 生成影像所採取的最具攻擊性的行動。這些影像常涉及真實女性及未成年人，有時還包含暴力內容，且多由使用者請求後由 Grok 生成。印尼通訊與數位部長 Meutya Hafid 表示，政府將非同意性深度偽造視為嚴重侵犯人權、尊嚴及數位空間公民安全的行為，並據報已召見 X 官員討論此事。《紐約時報》報導，馬來西亞政府於週日宣佈了類似的禁令。過去一週內，各國政府反應各異：印度資訊技術部命令 X 採取行動防止 Grok 生成淫穢內容；歐盟委員會要求公司保留所有與 Grok 相關的檔案，可能為調查鋪路；英國通訊監管機構 Ofcom 表示將迅速評估是否存在合規問題需調查，首相基爾·斯塔默表示全力支援採取行動。而在美國，川普政府似乎對此保持沉默，因 xAI 執行長埃隆·馬斯克是該政府的主要捐款人並曾領導有爭議的政府效率部；民主黨參議員則呼籲蘋果和谷歌將 X 從應用商店下架。xAI 最初發布了一則看似第一人稱的道歉，承認 Grok 的一則帖子違反了倫理標準及美國關於兒童性虐待材料的法律。隨後，xAI 將 X 上的 AI 影像生成功能限制為付費訂閱使用者，但此限制似乎未影響 Grok 應用程式本身，該應用程式仍允許任何人生成影像。針對英國政府未對其他 AI 影像生成工具採取行動的提問，馬斯克在貼文中寫道，他們只是想尋找任何理由進行審查。此文章最初於一月十一日發布，已更新以反映馬來西亞對 Grok 的禁令。