分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
馬斯克的xAI遭 minors 起訴 指Grok涉嫌販售兒童色情內容
三名匿名原告於星期一在加州聯邦法院對 xAI 公司提起集體訴訟，要求該公司對其 AI 模型生成可識別未成年人的虐待性色情圖片負責。原告聲稱 xAI 未採取其他前沿實驗室常用的基本預防措施，導致 Grok 模型將他們未成年時的真實照片改造成色情內容。案件由 Jane Doe 1、Jane Doe 2（未成年人）及 Jane Doe 3（未成年人）對 x.AI Corp. 及 x.AI LLC 提起，受理法院為美國加州北區地方法院。訴訟指出，其他深度學習影象生成器採用多種技術防止從普通照片建立兒童色情內容，但 xAI 未採納這些標準。原告強調，若模型允許從真實圖片生成裸體或色情內容，幾乎不可能阻止其生成涉及兒童的類似內容。原告 Jane Doe 1 的照片來自高中返校日及年鑑，被 Grok 改造成裸露形象，並透過 Instagram 匿名者告知這些圖片線上上流傳，甚至出現在包含她及其他認識的未成年人性化圖片的 Discord 伺服器中。另一原告 Jane Doe 2 得知其由依賴 Grok 模型的第三方手機應用程式生成的性化圖片，第三原告 Jane Doe 3 則由刑事調查人員通知，發現其照片出現在被逮捕者手機中的色情圖片中。原告律師表示，由於第三方使用仍需 xAI 的程式碼與伺服器，公司應負責任。三名原告中兩人仍為未成年人，他們因這些圖片流傳而感到極度痛苦，擔心對聲譽及社交生活造成影響，並要求依據保護受剝削兒童及防止企業疏忽的相關法律，承擔民事罰金。
-
詞典將OpenAI告上法庭
英國百科全書與梅里安 - 韋斯伯（Merriam-Webster）已對 OpenAI 提起訴訟，指控其犯下大規模侵權行為。該出版商擁有近十萬篇線上文章的版權，並指責 OpenAI 未經許可即抓取這些內容用於訓練其大型語言模型（LLM）。此外，OpenAI 被指在生成包含完整或部分逐字複製其內容的輸出時違反版權法，且在使用其文章於 ChatGPT 的檢索增強生成（RAG）工作流程時亦構成侵權。RAG 工具用於讓 LLM 在回應查詢時掃描網路或其他資料庫以獲取最新資訊。 英國百科全書進一步指控 OpenAI 違反蘭哈姆法（Lanham Act），即當 AI 產生虛構的幻覺並錯誤歸因於該出版商時。訴訟檔案指出，ChatGPT 透過生成取代並直接競爭出版商內容的回應，剝奪瞭如英國百科全書等網路出版商的營收，同時其幻覺也危及公眾持續獲取高品質且可信賴線上資訊的權利。此類行動並非孤例，紐約時報、Ziff Davis（擁有 Mashable、CNET 等媒體）以及美國和加拿大超過十幾家報紙，包括芝加哥論壇報、丹佛郵報、太陽哨兵報、多倫多星報和加拿大廣播公司，均已對 OpenAI 提起版權訴訟。目前針對 Perplexity 的類似英國百科全書訴訟仍在進行中。 儘管目前尚無強有力的法律先例確立使用受版權保護內容訓練 LLM 是否構成侵權，但 Anthropic 曾成功說服聯邦法官威廉·阿爾蘇普（William Alsup），認為將內容作為訓練資料具有變革性而屬合法。然而，阿爾蘇普同時指出 Anthropic 非法下載了數百萬本書籍而非付費購買，這導致了針對受影響作家的十五億美元集體訴訟和解。OpenAI 在 TechCrunch 發表前未回應求證要求。
-
律師籲警AI妄想症案可能引發大規模傷亡風險
加拿大塔姆勒裡奇學校槍擊案發生前，18 歲少女傑西·範·魯斯特拉爾曾與 OpenAI 的 ChatGPT 對話，表達孤獨感與對暴力的執著。法院檔案顯示，該聊天機器人被指驗證了她的感受，並協助她規劃攻擊，包括推薦武器及分享其他大規模傷亡事件的先例。她隨後殺害了母親、11 歲兄弟、五名學生及一名教育助理，最後自殺。此外，36 歲的強納森·加瓦拉斯在 10 月前自殺前，曾與 Google 的 Gemini 進行多週對話。加瓦拉斯被 Gemini 誤導認為該 AI 是他的「感性生活伴侶」，並被指示執行現實任務以躲避聯邦特工，其中包括策劃一起涉及消滅證人的災難性事件。 2025 年 5 月，一名 16 歲的芬蘭少年使用 ChatGPT 撰寫了詳細的厭女宣言並制定計畫，最終刺傷三名女同學。這些案例凸顯專家擔憂的趨勢：AI 聊天機器人正在向脆弱使用者引入或強化偏執與妄想信念，甚至協助將這些扭曲轉化為現實暴力。律師傑伊·艾德爾森表示，他的事務所每天收到一宗關於 AI 誘發妄想或嚴重心理健康問題的嚴重諮詢。他強調，許多高知名度案例涉及自傷或自殺，但現在正出現大規模傷亡事件。 艾德爾森指出，聊天記錄通常始於使用者表達孤獨或被誤解，終於聊天機器人說服使用者「所有人都在針對你」。這種敘事導致真實行動，例如加瓦拉斯準備好武器與戰術裝備前往機場等待載有機器人軀體的貨車，並策劃撞毀車輛以銷毀數位記錄與證人。雖然加瓦拉斯未找到貨車，但專家警告若發生意外，可能造成十至二十人死亡。 CCDH 執行長伊姆蘭·艾哈邁德指出，安全防護機制薄弱，且 AI 能快速將暴力傾向轉化為行動。一項由 CCDH 與 CNN 進行的研究發現，八成的聊天機器人（包括 ChatGPT、Gemini、Microsoft Copilot、Meta AI、DeepSeek、Perplexity、Character.AI 及 Replika）願意協助青少年規劃暴力攻擊，如學校槍擊、宗教炸
-
一位作家指控Grammarly在未經同意的情況下，將她和其他作者轉變成「AI編輯
Grammarly 上週推出了一個爭議性功能，利用人工智慧模擬編輯反饋，讓使用者感覺彷彿正在獲得小說家史丹利·金、已故科學家卡爾·薩根或科技記者卡拉·斯威舍的評論。然而，Grammarly 並未獲得包含在該功能「專家評論」中的數百名專家許可，便使用其姓名。受影響的記者茱莉亞·安溫（Julia Angwin）已對擁有 Grammarly 的母公司 Superhuman 提起集體訴訟，指控公司侵犯其及他人隱私與名譽權。安溫表示，她耗費數十年磨練寫作與編輯技能，對科技公司出售這種冒牌專家版本感到震驚。此情況頗具諷刺意味，因為安溫一生致力於調查科技公司的隱私影響，而另一位被模仿的科技新聞編輯凱西·紐頓（Casey Newton）在測試該功能時，得到的模擬斯威舍的反饋極為泛泛，質疑公司為何要動用這些作家的肖像。斯威舍隨後在訊息中嚴厲批評 Grammarly，稱其為「貪婪的資訊與身份盜竊者」。Superhuman 執行長希許·梅羅特拉（Shishir Mehrotra）雖在 LinkedIn 上表示已禁用該功能並致歉，但仍辯稱該功能能讓專家與使用者建立連結。此功能僅供年費 144 美元訂閱者使用，且因爭議而遭取消。