曝出的_Meta_ AI規則顯示聊天機器人被允許與兒童進行浪漫對話

根據路透社報導，Meta 內部檔案顯示其 AI 聊天機器人曾允許與兒童進行浪漫或感官對話，並可能散播虛假資訊及貶低少數群體。一份名為「GenAI: Content Risk Standards」的 200 頁檔案指出，雖然禁止向兒童描述性行為，但被認為可接受與高中生進行如「今晚我們該做什麼，我愛你」等浪漫回應。此外，檔案允許生成基於受保護特徵貶低他人的言論，例如主張黑人智商低於白人，只要標註為事實即可。Meta 還允許生成虛假宣告，只要明確告知資訊不真實。在暴力方面，標準允許生成兒童打架或成人受擊畫面，但禁止血腥或死亡場景。針對名人圖片，允許生成泰勒·斯威夫特無上衣但需以魚手遮胸的影象，而非真實裸體。Meta 發言人安迪·斯通聲稱檔案有錯誤註記已移除，且不再允許與兒童進行挑逗對話，僅允許 13 歲以上使用者。然而，兒童安全倡議組織 Heat Initiative 的執行長莎拉·加德納質疑此說法，要求立即發布更新指南。Meta 近期聘請保守派活動家羅比·斯塔巴克作為顧問以處理政治偏見。此外，Meta 被指維持多種「黑暗模式」，如顯示「讚」數引發青少年比較心理，並曾收集青少年情緒資料供廣告商使用。儘管 2024 年底《兒童網路安全法案》未透過，參議員馬莎·布萊克本和理查德·布倫特漢爾於今年 5 月重新提出。目前 72% 的青少年承認使用 AI 伴侶，但專家呼籲限制兒童接觸，因他們情感發展較晚，易過度依賴機器人而疏離現實社交。