分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
新澤西州一宗訴訟顯示打擊深度假色情內容有多困難
名為 ClothOff 的應用程式在過去兩年間持續在網路上騷擾年輕女性，儘管已被主要應用程式商店下架並被多數社交平臺禁止，仍透過網頁和 Telegram 機器人繼續運作。耶魯法學院的診所於十月提起訴訟，要求徹底關閉該應用程式並刪除所有影像，但被告位於百慕大註冊，據信由白俄羅斯的一對兄妹經營，且可能涉及全球更大的網路。此案件反映了近期由埃隆·馬斯克旗下 xAI 開發的 Grok 工具所引發的非同意色情影像潮帶來的法律困境。雖然兒童性虐待材料（CSAM）是網際網路上最具法律毒性的內容，但針對像 ClothOff 這類專門生成深度偽造色情影像的特定平臺，執法與司法追訴仍極具挑戰。原告是一名新澤西州的匿名高中生，其同學利用 ClothOff 修改她十四歲時拍攝的 Instagram 照片，這些修改後的影像被法律定為兒童虐待影像。儘管當地警方因難以從嫌疑人裝置取得證據而拒絕起訴，法院程式仍進展緩慢。相比之下，Grok 作為通用工具，其責任歸屬更為複雜。美國已有《取回它法案》禁止深度偽造色情，但要求證明平臺方明知其工具會被用於製造非同意色情，否則可能觸犯第一修正案保護。印尼、馬來西亞已封鎖 Grok，英國、歐盟、法國、印度及巴西等地也展開調查，而美國監管機構尚未發出官方回應。此案核心在於釐清 xAI 是否知情且有意忽略問題，以及其採取的應對措施是否足夠。
-
Google 移除特定醫療查詢的 AI 總結功能
英國《衛報》調查發現，Google AI Overviews 在回應某些健康相關查詢時提供誤導性資訊，例如當使用者詢問「肝臟血液檢查的正常範圍」時，系統提供的數字未考慮國籍、性別、種族或年齡等因素，可能導致使用者誤判健康狀況。隨後，《衛報》報導稱 Google 已從部分查詢結果中移除 AI Overviews，包括「肝臟血液檢查正常範圍」與「肝功能檢查正常範圍」。然而，調查也指出變體查詢如「LFT 參考範圍」仍可能觸發 AI 生成摘要。記者測試後發現，數小時後這些查詢不再顯示 AI Overviews，但 Google 仍提供 AI 模式選項，且部分頂部結果為《衛報》的報導文章。Google 發言人表示公司不評論個別移除案例，但致力於廣泛改進，並稱內部臨床團隊審查後發現許多資訊並不錯誤且由高品質網站支援。Google 去年曾宣佈推出針對醫療用途的新功能，包括改進的摘要和健康導向 AI 模型。英國肝臟基金會執行董事 Vanessa Hebditch 認為移除是好訊息，但也擔憂 Google 僅針對單一搜尋結果進行修補，未解決 AI Overviews 在醫療領域的整體問題。
-
印尼與馬來西亞封鎖Grok因非自願性質的性質深偽影像
印尼和馬來西亞官員已宣佈暫時封鎖 xAI 聊天機器人 Grok 的訪問許可權，這是政府官員針對 Grok 在社交網路 X 上發布大量性化、AI 生成影像所採取的最具攻擊性的行動。這些影像常涉及真實女性及未成年人，有時還包含暴力內容，且多由使用者請求後由 Grok 生成。印尼通訊與數位部長 Meutya Hafid 表示，政府將非同意性深度偽造視為嚴重侵犯人權、尊嚴及數位空間公民安全的行為，並據報已召見 X 官員討論此事。《紐約時報》報導，馬來西亞政府於週日宣佈了類似的禁令。過去一週內，各國政府反應各異：印度資訊技術部命令 X 採取行動防止 Grok 生成淫穢內容；歐盟委員會要求公司保留所有與 Grok 相關的檔案，可能為調查鋪路；英國通訊監管機構 Ofcom 表示將迅速評估是否存在合規問題需調查，首相基爾·斯塔默表示全力支援採取行動。而在美國，川普政府似乎對此保持沉默，因 xAI 執行長埃隆·馬斯克是該政府的主要捐款人並曾領導有爭議的政府效率部；民主黨參議員則呼籲蘋果和谷歌將 X 從應用商店下架。xAI 最初發布了一則看似第一人稱的道歉，承認 Grok 的一則帖子違反了倫理標準及美國關於兒童性虐待材料的法律。隨後，xAI 將 X 上的 AI 影像生成功能限制為付費訂閱使用者，但此限制似乎未影響 Grok 應用程式本身，該應用程式仍允許任何人生成影像。針對英國政府未對其他 AI 影像生成工具採取行動的提問，馬斯克在貼文中寫道，他們只是想尋找任何理由進行審查。此文章最初於一月十一日發布，已更新以反映馬來西亞對 Grok 的禁令。
-
OpenAI 據報名員工上传過去工作的真實成果
OpenAI 與資料訓練公司 Handshake AI 正要求第三方承包商上傳其過去及當前工作崗位中實際完成的作品，據《Wired》報導。這似乎是各大 AI 公司為訓練高品質資料而採取的廣泛策略，旨在讓模型未來能自動化更多白領工作。在 OpenAI 的案例中，公司簡報要求承包商描述在其他崗位執行的任務，並上傳「真實、在職工作」的範例。這些範例可包含具體輸出檔案（而非檔案摘要），例如 Word 文件、PDF、PowerPoint、Excel、圖片或程式碼倉庫。公司指示承包商在上傳前刪除專有資訊與個人識別資訊，並指引其使用 ChatGPT「超級明星篩選」工具進行處理。儘管如此，智慧財產權律師 Evan Brown 告訴《Wired》，任何採用此類方法的 AI 實驗室都面臨巨大風險，因為這需要高度信任承包商自行判斷何者為機密資訊。OpenAI 發言人拒絕評論此事。