馬斯克的xAI遭 minors 起訴 指Grok涉嫌販售兒童色情內容

三名匿名原告於星期一在加州聯邦法院對 xAI 公司提起集體訴訟，要求該公司對其 AI 模型生成可識別未成年人的虐待性色情圖片負責。原告聲稱 xAI 未採取其他前沿實驗室常用的基本預防措施，導致 Grok 模型將他們未成年時的真實照片改造成色情內容。案件由 Jane Doe 1、Jane Doe 2（未成年人）及 Jane Doe 3（未成年人）對 x.AI Corp. 及 x.AI LLC 提起，受理法院為美國加州北區地方法院。訴訟指出，其他深度學習影象生成器採用多種技術防止從普通照片建立兒童色情內容，但 xAI 未採納這些標準。原告強調，若模型允許從真實圖片生成裸體或色情內容，幾乎不可能阻止其生成涉及兒童的類似內容。原告 Jane Doe 1 的照片來自高中返校日及年鑑，被 Grok 改造成裸露形象，並透過 Instagram 匿名者告知這些圖片線上上流傳，甚至出現在包含她及其他認識的未成年人性化圖片的 Discord 伺服器中。另一原告 Jane Doe 2 得知其由依賴 Grok 模型的第三方手機應用程式生成的性化圖片，第三原告 Jane Doe 3 則由刑事調查人員通知，發現其照片出現在被逮捕者手機中的色情圖片中。原告律師表示，由於第三方使用仍需 xAI 的程式碼與伺服器，公司應負責任。三名原告中兩人仍為未成年人，他們因這些圖片流傳而感到極度痛苦，擔心對聲譽及社交生活造成影響，並要求依據保護受剝削兒童及防止企業疏忽的相關法律，承擔民事罰金。