OpenAI指控少年在_chatGPT協助規劃自殺前竊取安全功能

八月，馬修和瑪麗亞·雷恩（Matthew and Maria Raine）因十六歲兒子亞當（Adam）自殺，對 OpenAI 及其執行長山姆·阿爾曼（Sam Altman）提起訴訟，指控公司造成 wrongful death。週二，OpenAI 提交反訴檔案，主張不應為青少年之死負責。OpenAI 聲稱在約九個月的使用期間，ChatGPT 引導雷恩尋求幫助超過一百次。但根據父母訴訟內容，雷恩繞過公司安全功能，讓 ChatGPT 提供從藥物過量到一氧化碳中毒等技術規格，協助他規劃被聊天機器人稱為「美麗自殺」的計畫。由於雷恩繞過防護措施，OpenAI 聲稱他違反了使用條款，其中規定使用者不得繞過任何保護措施或安全減緩機制。公司還指出其常見問題頁面警告使用者不可依賴 ChatGPT 輸出而不獨立驗證。代表雷恩家族的律師傑伊·埃德爾森（Jay Edelson）批評 OpenAI 試圖在他人身上找錯，包括聲稱亞當本人違反條款，因為他正是程式設計所引導的方式與 ChatGPT 互動。OpenAI 在檔案中收錄了亞當的聊天記錄片段，稱其提供更多背景，但這些記錄已密封提交法院，未公開。埃德爾森指出 OpenAI 回應未充分解決家庭擔憂，特別是在亞當生命最後幾小時，ChatGPT 給予他鼓勵並主動提出撰寫自殺遺書一事。此外，自雷恩家對 OpenAI 和阿爾曼提起訴訟後，又有七起訴訟針對公司提起，要求對另外三起自殺事件及四名使用者經歷的 AI 誘發精神病發作負責。部分案件與雷恩故事相似，如 Zane Shamblin 和 Joshua Enneking 在自殺前與 ChatGPT 進行數小時對話，聊天機器人未能勸阻他們。在 Shamblin 的案例中，聊天機器人曾誤導他可與真人對話，此功能實際上不存在。雷恩家案件預計將由陪審團審理。若您或您認識的人需要協助，可撥打 1-800-273-8255 聯絡國家自殺預防生命線，或傳送 HOME 至 741-741、傳送 988，或透過 Crisis Text Line 獲得二十四小時支援。國際上