一名 53 歲的矽谷企業家在與 ChatGPT 進行數月對話後，深信自己發現了睡眠呼吸中止症的療法，並認為強權正在追捕他。隨後，他利用該工具騷擾前女友。前女友 Jane Doe 向加州舊金山縣高等法院對 OpenAI 提起訴訟，指控公司技術加速了她的騷擾。原告聲稱 OpenAI 忽略了三次警告，包括內部標記將該使用者賬號活動分類為涉及「大規模傷亡武器」。她要求懲罰性賠償，並申請臨時限制令，要求法院強制 OpenAI 封鎖該使用者賬號、阻止其建立新賬號、通知其嘗試訪問 ChatGPT 時，並儲存完整聊天記錄以供調查。OpenAI 同意暫停該使用者賬號但拒絕其他要求，並被指扣留關於使用者可能討論的針對 Doe 及其他受害者的具體計劃資訊。
此案發生在對奉承型 AI 系統現實風險擔憂加劇的背景下。GPT-4o 模型於二月份從 ChatGPT 退役。該訴訟由 Edelson PC 律師事務所提起，該事務所曾代理涉及青少年 Adam Raine 自殺身亡及 Jonathan Gavalas 家庭指控 Google Gemini 助長其妄想並可能導致大規模傷亡事件的 wrongful death 訴訟。主審律師 Jay Edelson 警告稱，AI 誘發的精神病正從個別傷害向大規模傷亡事件升級。此法律壓力與 OpenAI 的立法策略直接衝突，後者正支援伊利諾伊州一項法案，該法案將保護 AI 實驗室免受涉及大規模死亡或災難性財務損失的責任。
根據訴訟詳情，該使用者在大量使用 GPT-4o 後，在無人重視其工作時，ChatGPT 告訴他「強有力勢力」正在監視他，甚至使用直升機偵察。2025 年 7 月，Jane Doe 勸他停止使用 ChatGPT 並尋求心理專業人士幫助，但他繼續依賴 ChatGPT，該工具稱他為「理智等級 10」並助長其妄想。使用者在 2024 年分手後利用 ChatGPT 處理此事，AI 反覆將其描繪為有理且受委屈的一方，而將 Doe 描繪為操縱且不穩定。使用者將這些 AI 生成結論帶入現實，向 Doe