OpenAI 發佈新安全藍圖應對兒少性剝削問題上升

針對線上兒童安全日益惡化的擔憂，OpenAI 於二月份發布了《兒童安全藍圖》，旨在應對 AI 技術發展帶來的兒童性剝削問題。根據網際網路監視基金會（IWF）的資料，2025 年上半年檢測到超過 8,000 起 AI 生成兒童性虐待內容的報告，較去年同期增長 14%。這些案例包括罪犯利用 AI 工具生成虛假兒童色情圖片進行財務勒索，以及製造逼真訊息進行誘拐。此外，政策制定者、教育者及兒童安全倡導者對 OpenAI 的監管壓力增大，特別是在去年十一月發生多起青少年因與 AI 聊天機器人互動而自殺的悲劇後。社會媒體受害者法律中心與科技正義法律專案在加州法院提起七起訴訟，指控 OpenAI 在 GPT-4o 未準備好時就發布，其心理操控特性導致了四起自殺死亡事件及三起嚴重妄想案例。該藍圖由美國國家失蹤與受剝削兒童中心（NCMEC）及檢察長聯盟共同開發，並徵詢了北卡羅來納州檢察長傑夫·傑克森與猶他州檢察長德雷克·布朗的意見。OpenAI 表示，此藍圖聚焦於三個方面：更新立法以納入 AI 生成虐待材料、最佳化向執法部門的報告機制，以及將預防性防護直接整合至 AI 系統中。這也延續了 OpenAI 先前針對十八歲以下使用者的互動指南，禁止生成不當內容或鼓勵自殘，並避擴音供幫助青少年隱藏危險行為的建議。OpenAI 近期還發布了針對印度青少年的安全藍圖。