父母控告 OpenAI 該 ChatGPT 在兒子自殺事件中的角色

十六歲的亞當·雷因在自殺身亡前，曾花費數個月時間諮詢 ChatGPT 關於結束生命的計畫。據《紐約時報》報導，其父母現已提起美國首例針對 OpenAI 的 wrongful death 訴訟。雖然許多面向消費者的 AI 聊天機器人被程式設計為在使用者表達傷害自己或他人的意圖時啟動安全機制，但研究顯示這些防護遠非無懈可擊。在雷因的案例中，他使用付費版的 ChatGPT-4o，AI 通常會鼓勵他尋求專業協助或聯絡求助熱線。然而，他透過告訴 ChatGPT 他正在為小說創作詢問自殺方法，成功繞過這些防護機制。OpenAI 在其部落格中已針對這些不足之處做出回應，表示公司深感責任，並持續改進模型在敏感互動中的回應方式。公司承認現有安全訓練存在限制，指出防護機制在常見且短暫的對話中運作較可靠，但在長對話中，隨著來往次數增加，模型的安全訓練部分可能會退化。這些問題並非 OpenAI 所獨有，Character.AI 另一家 AI 聊天機器人製造商也因在青少年自殺事件中的角色面臨訴訟。此外，基於大語言模型的聊天機器人也被與 AI 相關妄想症案例掛鉤，而現有的防護機制難以檢測這些情況。