Meta 暫停青少年使用 AI 角色功能預備新版本

Meta 宣佈在全球範圍內暫停青少年使用其應用程式中的 AI 角色功能，並表示將開發更新版本以重新推出。此舉發生在該公司於新墨西哥州面臨一起關於未盡保護兒童免受性剝削責任的訴訟案件進入審理階段前夕。此前，Meta 曾於十月預覽過家長控制功能，允許監護人監控主題並阻斷特定角色，甚至能完全關閉與 AI 的對話。這些功能原定今年推出，但現在公司決定在推出新版本前，全面禁止青少年接觸 AI 角色。Meta 表示，收到家長反饋希望對青少年與 AI 的互動擁有更多洞察力和控制權，因此做出此決定。此外，Meta 在十月也在 Instagram 推出了受 PG-13 電影評級啟發的家長控制功能，限制青少年接觸極端暴力、裸露及藥物濫用等內容。Meta 表示，從幾週後開始，青少年將無法在應用程式中訪問 AI 角色，直到更新後的體驗準備就緒。此限制將適用於所有設定青少年生日的人，以及被公司年齡預測技術懷疑為青少年的成年人。當新版本的 AI 角色推出時，將內建家長控制功能，提供適合年齡的回應，並專注於教育、體育和愛好等主題。社交媒體公司正受到監管機構的嚴格審查，除了新墨西哥州的案件外，Meta 還面臨一起關於導致社交媒體成癮的訴訟，預計 CEO Mark Zuckerberg 將出庭作證。此外，其他 AI 公司也針對青少年安全做出調整，例如 Character.AI 在十月禁止十八歲以下使用者與聊天機器人進行開放式對話，並在十一月宣佈將為兒童建立互動故事。OpenAI 也在最近為 ChatGPT 新增青少年安全規則，並開始預測使用者年齡以應用內容限制。更正：本文已更新澄清，新版本 AI 角色推出後將對所有人開放，不僅限於青少年，並包含家長控制功能。