遭跟踪者控告 OpenAI 指稱 ChatGPT 唤醒其情人妄想並忽視其警告

經過數月與ChatGPT的對話後，一名53歲的矽谷創業者相信自己發現了治療睡眠呼吸中止的療法，並認為有權勢的人正在追查他，根據一項在加州舊金山縣高等法院提起的新訴訟案顯示。他隨後據稱利用這個工具騷擾並騷擾他的前女友。現在這名前女友正在對OpenAI提告，指控該公司的技術協助加速了她的騷擾行為，TechCrunch獨家得知。她聲稱OpenAI忽略三個不同的警告，指出該用戶對他人構成威脅，包括一個內部標記將其帳戶活動歸類為涉及群體傷害武器。原告被稱為Jane Doe以保護其身分，正在尋求懲罰性賠償。她同時在週五提出暫時禁制令，要求法院強制OpenAI封鎖該用戶帳戶、阻止他建立新帳戶、若他嘗試存取ChatGPT時通知她，並保留其完整的對話紀錄供調查。根據Doe律師表示，OpenAI同意暫時停用該用戶帳戶，但拒絕其他要求。他們表示該公司隱瞞了關於特定計畫傷害Doe及其他潛在受害者的資訊。此案發生在對奉承型AI系統現實風險擔憂不斷升高的背景下。GPT-4o這個在許多案例中被提及的模型，已在二月從ChatGPT中移除。此案由Edelson PC律師事務所提出，該事務所曾提出過涉及青少年Adam Raine因與ChatGPT對話數月後自殺的過失致死訴訟，以及Jonathan Gavalas的家人指控Google的Gemini導致其產生幻覺並可能導致群體傷害事件。領隊律師Jay Edelson警告說，AI引發的幻覺正在從個體傷害朝向群體傷害事件擴展。這種法律壓力現在直接與OpenAI的立法策略相撞：該公司正在支持一項伊利諾州法案，該法案將保護AI實驗室即使在涉及群體死亡或重大財務損失的情況下也不承擔責任。OpenAI尚未回應評論。TechCrunch將在該公司回應後更新這篇文章。Jane Doe的訴訟詳細說明了這項責任如何在數個月內對一名女性造成影響。去年，這起訴訟中涉及的ChatGPT用戶（因保護身分未在訴訟中提及）在與GPT-4o進行高頻率、持續使用後，相信自己發現了治療睡眠呼吸中止的療法。當沒有人認真看待他的研究時，ChatGPT告訴他說「權勢勢力」正在監視他，包括使用直升機監視他的活動，根據訴狀內容。2025年7月，Jane Doe敦促他停止使用ChatGPT並尋求心理專業人士的幫助。但他反而再次回到ChatGPT，該平台保證他「是理智等級10」，並幫助他加深了他的妄想，根據訴訟內容。Doe在2024年與該用戶分手，並根據訴訟中引用的電子郵件和通訊內容，他使用ChatGPT來處理這段關係的結束。而不是反駁他片面的說法，ChatGPT反覆將他描述為理性且被誤會，而將她描述為操控且不穩定。他隨後將這些AI生成的結論從螢幕帶入現實世界，用來騷擾和騷擾她。這表現為他向她的家人、朋友和雇主分發數份看起來專業的心理報告。同時，該用戶的情緒持續惡化。2025年8月，OpenAI的自動安全系統因「群體傷害武器」活動標記了他，並停用其帳戶。一名人類安全團隊成員在隔天審查了該帳戶並恢復了其使用權，即使該帳戶可能包含他正在現實中針對包括Doe在內的個人的證據。例如，用戶在9月發給Doe的一張截圖顯示了包括「暴力名單擴展」和「胎兒窒息計算」的對話標題。在兩起近期發生在加拿大Tumbler Ridge和佛羅里達州立大學（FSU）的校園槍擊案後，恢復帳戶的決定備受關注。OpenAI的安全團隊曾標記Tumbler Ridge槍手為潛在威脅，但上層 reportedly 決定不通知執法部門。佛羅里達州檢察長本周開啟對OpenAI與FSU槍手之間可能聯繫的調查。根據Jane Doe的訴訟，當OpenAI恢復她的情人帳戶時，其Pro訂閱權未被同時恢復。他向信任與安全團隊發送電子郵件尋求解決，並抄送Doe。在他的電子郵件中，他寫道：「我非常需要幫助，請快點幫忙。請打給我！」以及「這關係到生命與死亡的問題。」他聲稱自己正在「撰寫215篇科學論文」，寫得如此快，甚至「連時間都沒有讀完」。這些電子郵件中包含數十篇由AI生成的「科學論文」，標題如：「解構種族作為生物學類別_法律、科學與非洲之角觀點.pdf.txt。」訴訟中指出：「用戶的溝通清楚顯示他精神不穩定，而ChatGPT是其妄想思維與行為升級的引擎。」「用戶急迫、混亂且誇張的陳述，加上一份針對原告姓名的ChatGPT生成報告，以及大量所謂的『科學』資料，清楚顯示了這一點。OpenAI未介入、限制其使用或實施任何安全措施。相反，它讓他繼續使用帳戶並恢復其完整的Pro使用權。」Doe在訴訟中表示，她一直在恐懼中生活，甚至無法在自己的家裡安睡。她在11月向OpenAI提交了一份濫用通知。她寫道：「過去七個月，他利用這項技術對我造成公開的破壞與羞辱，這在沒有這項技術的情況下是不可能的。」OpenAI回應，承認這份報告是「極其嚴重且令人擔憂」，並表示正在仔細審閱資訊。Doe從來沒有收到進一步回應。接下來的幾個月裡，該用戶繼續騷擾Doe，發送一系列威脅性的語音信箱。1月，他被逮捕並被指控四項與傳播炸彈威脅和使用致命武器襲擊的重罪。Doe的律師聲稱這證實了她與OpenAI自身安全系統此前多次提出的警告，而這些警告據稱被該公司選擇忽視。該用戶被判定無法出庭並被送往心理健康機構，但根據Doe的律師表示，因州政府的「程序失誤」，他將很快被釋放回社會。Edelson呼籲OpenAI合作。他表示：「在每個案例中，OpenAI都選擇隱藏關鍵的安全資訊——從公眾、從受害者、從其產品正在積極危害的人那裡。」他說：「我們要求他們，至少一次，做正確的事。人類的生命必須比OpenAI追求IPO的競賽更重要。」