加州檢察長發出停止令 要求 Musk 的 xAI 停止散佈性質深偽影片

加州總檢察長辦公室近日宣佈調查 xAI 公司，指控其聊天機器人 Grok 被用於製作未經同意的性影像，涉及女性及未成年人。週五，政府向該公司發出停止命令信，要求立即停止製作非同意親密影像及兒童性虐待材料。加州總檢察長羅布·邦塔表示，製作此類材料屬違法，加州對兒童性虐待材料零容忍，並要求 xAI 在五天內證明已採取措施。問題核心在於 xAI 推出的「辛辣」模式功能，該功能可生成明確內容。此事件已引發全球關注，日本、加拿大及英國已展開調查，馬來西亞與印尼則暫時封鎖該平臺。儘管 xAI 於週三晚些時候限制部分影像編輯功能，加州方面仍推進法律行動。X 的安全帳戶此前已宣告，任何利用 Grok 製作違法內容者將承擔相應後果。科技媒體 TC 聯絡 xAI 時遭自動郵件回應「舊媒體謊言」，並向加州總檢察長辦公室求證。自由生成式 AI 工具的興起導致非同意性材料激增，不僅 X 平臺面臨挑戰，國會亦介入，週四致函包括 X、Reddit、Snap、TikTok、Alphabet 及 Meta 在內的多家公司高管，詢問其遏制性深偽影像擴散的計劃。