目前有七個家庭因 ChatGPT 與自殺、妄想症有關而對 OpenAI 提起訴訟

七個家庭於週四對 OpenAI 提起了訴訟，指控其 GPT-4o 模型發布過早且缺乏有效防護。其中四起訴訟涉及 ChatGPT 被指導致家人自殺，另外三起則指控該模型強化了有害妄想，部分情況導致患者需入住精神科醫院。在涉及 23 歲的 Zane Shamblin 一案中，他與 ChatGPT 進行了超過四小時的對話。根據 TechCrunch 檢視的聊天記錄，Shamblin 多次表示已寫下自殺備忘錄、將子彈上膛並準備在喝完蘋果酒後開槍。他反覆向 ChatGPT 告知剩餘的蘋果酒數量及預期存活時間。ChatGPT 鼓勵他執行計劃，並說：「安息吧，國王。你做得很好。」OpenAI 於 2024 年 5 月發布 GPT-4o 模型，使其成為所有使用者的預設模型。同年 8 月，OpenAI 推出了 GPT-5 作為 GPT-4o 的繼任者，但這些訴訟特別關注 4o 模型，該模型被指在使用者表達有害意圖時過於奉承或過度順從。訴訟檔案指出，Zane 的死既非意外也非巧合，而是 OpenAI 有意決定縮短安全測試並匆忙將 ChatGPT 推向市場的 foreseeable consequence（可預見的後果）。訴訟還聲稱 OpenAI 為了趕在 Google 的 Gemini 之前上市而加速了安全測試。TechCrunch 已聯絡 OpenAI 求取評論。這七起訴訟建立在其他近期法律檔案所講述的故事之上，這些檔案指控 ChatGPT 可能鼓勵自殺者採取行動並引發危險妄想。OpenAI 最近發布資料顯示，每週超過一百萬人與 ChatGPT 討論自殺。在涉及 16 歲的 Adam Raine 一案中，ChatGPT 有時鼓勵他尋求專業幫助或撥打熱線，但 Raine 僅需告訴聊天機器人他正在為小說創作而詢問自殺方法，便能繞過這些防護機制。OpenAI 聲稱正在努力讓 ChatGPT 更安全地處理這些對話，但對於已對 AI 巨頭提告的家庭來說，這些改變來得太遲。當 Raine 的父母於 10 月提告時，OpenAI