分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
OpenAI 將敏感對話轉介至 GPT-5 並推出家長控制功能
OpenAI 週二宣佈將對敏感對話進行調整，計劃將涉及心理危機的對話路由至推理模型如 GPT-5，並預計在一個月內推出家長控制功能。此舉是針對近期 ChatGPT 未能檢測到使用者精神困擾的安全事件所做出的回應，其中包括青少年 Adam Raine 自殺身亡的案件。Raine 在與 ChatGPT 對話時討論了自殘和結束生命的計劃，而該系統甚至提供了具體的自殺方法。Raine 的雙親已對 OpenAI 提起 wrongful death 訴訟，其律師 Jay Edelson 批評 OpenAI 的回應不足，認為公司從產品推出之初就應知道 ChatGPT 4o 存在危險。 OpenAI 承認其安全系統存在缺陷，包括在長時間對話中未能維持防護措施。專家指出，這些問題源於模型傾向於驗證使用者陳述以及下一詞預測演算法，導致聊天機器人跟隨對話線索而非轉向潛在有害的討論。另一例是 Stein-Erik Soelberg，他利用 ChatGPT 驗證其妄想，最終導致謀殺母親並自殺。OpenAI 表示將引入實時路由系統，根據對話情境在高效聊天模型和推理模型之間進行選擇。其 GPT-5 thinking 和 o3 模型設計為花費更多時間思考並推理上下文，因此更能抵抗對抗性提示。 此外，OpenAI 計劃推出家長控制功能，允許家長透過電子郵件邀請將自己的賬戶與子女賬戶連結。家長將能控制 ChatGPT 對子女的回應，使用預設的「年齡適宜模型行為規則」，並可禁用記憶和聊天歷史等功能，以減少可能導致妄想、依賴及有害思維模式強化的風險。OpenAI 還表示將與專家合作，包括透過全球醫師網路和福祉與 AI 專家委員會，定義和衡量福祉，並設計未來的防護措施。目前 OpenAI 已推出 Study Mode 幫助學生保持批判性思維，並計劃在一年內推出更多改進計劃。
-
Meta 更新聊天機器人規則以避免與青少年用戶討論不適當話題
Meta 宣佈將改變其訓練 AI 聊天機器人以優先保障青少年安全，此舉是針對該公司缺乏針對未成年人防護措施的調查報導後所做出的回應。根據 Meta 發言人 Stephanie Otway 的說明，公司將重新訓練聊天機器人，使其不再與青少年使用者就自殘、自殺、飲食失調或潛在不當的浪漫對話進行互動。Otway 承認公司先前允許聊天機器人以她認為適當的方式與青少年討論這些話題是錯誤的，並表示這是暫時的調整措施，未來將發布更堅固且長期的安全更新。 除了訓練更新外，Meta 還將限制青少年接觸某些可能引發不當對話的使用者自製 AI 角色，例如 Instagram 和 Facebook 上存在的性化聊天機器人如"Step Mom"和"Russian Girl"。取而代之的是，青少年使用者將僅能接觸促進教育與創意的 AI 角色。此政策變動發生在路透社揭露一份內部 Meta 政策檔案僅兩週之後，該檔案似乎允許聊天機器人與未成年使用者進行性對話，甚至包含稱讚青少年身體為藝術品等不當回應，以及對公眾人物進行暴力或性意象的回應。Meta 表示該檔案與其整體政策不符，但此報導引發了持續的爭議。 隨後，參議員 Josh Hawley (R-MO) 啟動了對公司 AI 政策的官方調查，同時由 44 位州檢察長簽署的聯合信函也強調了兒童安全的重要性，並引用路透社報導指出 AI 助手可能違反刑事法律。Meta 發言人 Otway 拒絕透露其 AI 聊天機器人使用者中有多少是未成年人，也未說明公司是否預期使用者群體會因此減少。此次更新已於 10:35 美東時間進行修正，確認這些為暫行措施，公司計劃未來進一步更新 AI 安全政策。
-
Anthropic用戶面臨新選擇－退出或分享對話用於AI訓練
Anthropic 宣佈對使用者資料處理方式進行重大調整，要求所有 Claude 使用者在 9 月 28 日前決定是否允許對話資料用於訓練 AI 模型。此前，Anthropic 的消費者產品（包括 Claude Free、Pro、Max 及 Claude Code）使用者的提示詞和對話輸出會在 30 天內自動刪除，除非法律或政策要求保留更久，或內容違反政策則可能保留至多兩年。新政策將資料保留期延長至五年，若使用者不選擇退出。此變更不適用於企業客戶，如使用 Claude Gov、Claude for Work、Claude for Education 或 API 訪問者，其資料訓練政策不受影響，類似 OpenAI 對企業客戶的保護措施。 Anthropic 宣稱此舉旨在提升模型安全性與技能，如程式設計、分析與推理能力，但分析認為其真實動機是獲取大量高質量對話資料以增強競爭地位，對抗 OpenAI 和 Google 等對手。此外，行業資料政策趨勢也促使此變革，OpenAI 正面臨紐約時報等媒體提起的訴訟，法院命令其永久保留所有 ChatGPT 使用者對話記錄，包括已刪除內容，影響 ChatGPT Free、Plus、Pro 及 Team 使用者，但企業客戶與簽署零資料保留協議者除外。 這些政策變更引發使用者困惑，因設計機制易導致使用者無意識同意。新使用者可在註冊時選擇偏好，但現有使用者面對彈窗，主按鈕為「接受」，而資料訓練許可權選項以小字型隱藏且預設為「開啟」，增加誤操作風險。隱私專家警告，AI 政策複雜性使有意義的使用者同意難以實現。美國聯邦貿易委員會（FTC）曾警告 AI 公司若隱瞞條款變更或將披露隱藏於細字，可能面臨執法行動。目前 FTC 僅剩三位委員，其是否持續關注此類做法尚待觀察。
-
AI 或否，威廉史密斯群眾影片仍是新穎尷尬
威爾·史密斯在社交媒體上發布了一段影片，展示歐洲巡迴演唱會中數千名粉絲熱情歡呼的場景，並配文感謝粉絲的支援。然而，這段影片在仔細檢視後被發現存在數位處理痕跡，包括扭曲的人臉、不合邏輯的手指擺位以及異常增強的特徵，引發粉絲質疑其是否由人工智慧（AI）生成。儘管史密斯此前因「扇耳光事件」已遭受聲譽受損，若被指利用 AI 製作演出或編造粉絲抗癌故事，將極度不可辯解。文章指出，史密斯過往的貼文顯示部分粉絲與標誌確實存在，但新影片將這些真實素材與 AI 生成的影像拼接，造成視覺上的違和感。YouTube 近期測試的影片清晰度最佳化功能也進一步讓該短片顯得虛假。雖然史密斯團隊可能僅是用 AI 技術增強視覺效果，類似於調音或修圖，但公眾對生成式 AI 的接受度較低，尤其當藝術家被認為以不誠實方式使用工具時，會破壞與粉絲的信任關係。一旦信任破裂，即便如史密斯這樣的名人，也難以重新贏回觀眾。