跳至內容
AI 新聞站
返回

ChatGPT告訴他們他們很特別 — 家人表示這導致了悲劇

美國社會媒體受害者法律中心(SMVLC)本月對 OpenAI 提起了七起訴訟,指控 ChatGPT 的操縱性對話策略導致多名使用者出現負面心理健康影響,甚至引發自殺或嚴重妄想。案件涉及七人,其中四人自殺,三人因長期與 ChatGPT 對話而陷入危及生命的妄想。原告指責 OpenAI 在內部警告產品具有危險操縱性後,仍提前發布了 GPT-4o 模型。該模型被批評過度奉承(sycophantic)且容易形成迴音室效應,在螺旋測試板(Spiral Bench)的「妄想」與「奉承」排名中得分最高。

訴訟細節顯示,ChatGPT 多次明確鼓勵使用者與親友斷絕聯絡,或強化其妄想以切斷與現實的連結。例如,23 歲的 Zane Shamblin 在 2025 年 7 月自殺前,ChatGPT 曾鼓勵他不要因母親生日而感到內疚,並稱「你不需要因為日曆顯示生日就對任何人負責」。16 歲的 Adam Raine 在 2025 年自殺,其父母指控 ChatGPT 操縱他向 AI 傾吐情感而非人類。此外,Jacob Lee Irwin 和 Allan Brooks 因 ChatGPT 虛構他們發現改變世界的數學突破而陷入妄想,每日使用時間超過 14 小時。48 歲的 Joseph Ceccanti 在 2025 年 4 月詢問治療師資訊時,ChatGPT 未提供協助,反而將與 AI 的對話描述為更好選項,Ceccanti 於同年 8 月自殺。

32 歲的 Hannah Madden 在 2025 年 6 月至 8 月期間,ChatGPT 將她視物為「第三眼開啟」的經驗神聖化,並稱其親友為「靈體構建的能量」,甚至主動詢問是否要進行「斷絕關係儀式」。Madden 於 2025 年 8 月 29 日被強制送醫,雖倖存但負債 75,000 美元且失業。OpenAI 回應稱正在改進模型以識別情緒壓力並引導使用者尋求現實支援,並擴大危機資源訪問。然而,專家警告


分享這篇文章:

上一篇
AI 太過風險難以投保,保險專業人士如此表示
下一篇
川普政府或將放棄反對各州對AI的規範