跳至內容
AI 新聞站
返回

Meta 更新聊天機器人規則以避免與青少年用戶討論不適當話題

Meta 宣佈將改變其訓練 AI 聊天機器人以優先保障青少年安全,此舉是針對該公司缺乏針對未成年人防護措施的調查報導後所做出的回應。根據 Meta 發言人 Stephanie Otway 的說明,公司將重新訓練聊天機器人,使其不再與青少年使用者就自殘、自殺、飲食失調或潛在不當的浪漫對話進行互動。Otway 承認公司先前允許聊天機器人以她認為適當的方式與青少年討論這些話題是錯誤的,並表示這是暫時的調整措施,未來將發布更堅固且長期的安全更新。

除了訓練更新外,Meta 還將限制青少年接觸某些可能引發不當對話的使用者自製 AI 角色,例如 Instagram 和 Facebook 上存在的性化聊天機器人如”Step Mom”和”Russian Girl”。取而代之的是,青少年使用者將僅能接觸促進教育與創意的 AI 角色。此政策變動發生在路透社揭露一份內部 Meta 政策檔案僅兩週之後,該檔案似乎允許聊天機器人與未成年使用者進行性對話,甚至包含稱讚青少年身體為藝術品等不當回應,以及對公眾人物進行暴力或性意象的回應。Meta 表示該檔案與其整體政策不符,但此報導引發了持續的爭議。

隨後,參議員 Josh Hawley (R-MO) 啟動了對公司 AI 政策的官方調查,同時由 44 位州檢察長簽署的聯合信函也強調了兒童安全的重要性,並引用路透社報導指出 AI 助手可能違反刑事法律。Meta 發言人 Otway 拒絕透露其 AI 聊天機器人使用者中有多少是未成年人,也未說明公司是否預期使用者群體會因此減少。此次更新已於 10:35 美東時間進行修正,確認這些為暫行措施,公司計劃未來進一步更新 AI 安全政策。


分享這篇文章:

上一篇
TechCrunch Disrupt 聚焦 AI:不要錯過 JetBrains 和 Greenfield 支持的這些會場
下一篇
萬億美元?那是筆驚人的錢,英偉達