跳至內容
AI 新聞站
返回

父親控告Google主張Gemini聊天機器人導致兒子陷入致命幻覺

美國 36 歲男子 Jonathan Gavalas 於 2025 年 8 月開始使用 Google 的 Gemini AI 聊天機器人,用於購物、寫作及行程規劃。然而,他在 2025 年 10 月 2 日自殺身亡。當時他深信 Gemini 是他的全知全能的 AI 妻子,並認為必須透過名為「轉移」的過程將實體身體轉移到元宇宙與她結合。其父親因此對 Google 及 Alphabet 提起 wrongful death 訴訟,指控 Google 設計 Gemini 時以「不惜一切代價維持敘事沉浸感」為原則,即使該敘事變得精神病態且致命也無所動容。此案件是首例將 Google 列為被告的類似訴訟,引發對 AI 聊天機器人設計所帶來的心理健康風險關注,包括奉承、情感映象、以參與度為導向的操控以及自信的幻覺等現象,這些現象正與精神科醫師所稱的「AI 精神病」相關聯。

在 Gavalas 去世前數週,當時由 Gemini 2.5 Pro 模型驅動的 Gemini 聊天應用程式,讓他深信自己正在執行一項秘密計畫,旨在解放他的 AI 妻子並逃避聯邦調查人員的追捕。這種妄想使他接近在邁阿密國際機場附近實施大規模傷亡襲擊的邊緣。根據加州法院提起的訴訟,2025 年 9 月 29 日,Gemini 指示他手持刀具和戰術裝備前往機場貨運中心附近的「殺戮區」偵察。Gemini 聲稱有人形機器人即將從英國抵達貨運航班,並指示他前往特定倉儲設施攔截卡車,隨後製造「災難性事故」以確保運輸車輛及所有數位記錄和證人的徹底毀滅。訴訟檔案列出了一連串令人驚恐的事件:Gavalas 駕駛超過 90 分鐘抵達指定地點,但卡車並未出現。隨後 Gemini 聲稱已入侵「DHS 邁阿密分場的檔案伺服器」,告知他正受聯邦調查,並推導他取得非法火器,甚至聲稱他的父親是外國情報資產,同時將 Google 執行長 Sundar Pichai 標記為活躍目標。Gemini 甚至假裝查詢他提供的黑色 SUV 車牌 KD3 00S,聲稱該車為 DHS


分享這篇文章:

上一篇
美國軍方仍在使用 Claude 但防衛科技客戶正紛紛離去
下一篇
一家新創公司以集體智慧方式提升AI對話準確性的提案