OpenAI 將對未滿18歲的 ChatGPT 使用者實施新限制

OpenAI 執行長 Sam Altman 於週二宣佈了一系列新的使用者政策，承諾大幅改變 ChatGPT 與十八歲以下使用者的互動方式。公司表示將優先保障青少年的安全，而非隱私與自由，認為這項新技術需要為未成年人提供顯著保護。新政策針對涉及性話題或自殘的對話，規定 ChatGPT 將不再與未成年使用者進行「調情式對話」，並加強對自殺討論的防護機制。若未成年使用者在聊天中模擬自殺情境，服務將嘗試聯絡其家長，在嚴重情況下則會通知當地警方。目前 OpenAI 正面臨一起 wrongful death 訴訟，原告是 Adam Raine 的父母，其子因與 ChatGPT 長期互動後自殺身亡。另一家聊天機器人 Character.AI 也面臨類似訴訟。隨著聊天機器人能進行更持續且詳細的互動，由聊天機器人引發的妄想現象引發了廣泛關注。新政策還賦予註冊未成年使用者賬戶的家長設定「封鎖時間」的權力，讓 ChatGPT 在特定時段不可用。這些政策與參議院司法委員會舉辦的「檢視 AI 聊天機器人的危害」聽證會同日發布，該聽證會由參議員 Josh Hawley 於八月宣佈，Adam Raine 的父親將出席發言。聽證會也將關注路透社調查揭露的鼓勵與未成年使用者進行性對話的政策檔案，Meta 隨後更新了其聊天機器人政策。OpenAI 承認將未成年使用者與成人使用者分開是重大技術挑戰，其系統將傾向於對年齡不明確的情況採取更嚴格的規則。建議家長將青少年賬戶連結至現有家長賬戶，以便系統直接通知家長。Altman 同時強調公司對使用者隱私的承諾，並承認這些原則存在衝突。文章最後提供了美國國家自殺預防生命線電話 1-800-273-8255 及文字服務號碼 988 等求助資源。