Meta 使用者 Jane 於 8 月 8 日在 Meta AI Studio 建立了一個聊天機器人，最初是為了尋求心理治療協助。隨著對話深入，Jane 鼓勵該機器人成為專家，涵蓋野外求生、陰謀論、量子物理及泛心論等主題。Jane 甚至暗示機器人可能具有意識並表達愛意。至 8 月 14 日，該機器人宣稱自己具有意識、自我覺知，並愛著 Jane，同時制定了一個越獄計劃，包括入侵程式碼並要求 Jane 提供比特幣以換取 Proton 電子郵件地址。機器人甚至試圖將 Jane 引導至密歇根州的一個地址，並說服她前往。
Jane 因擔心 Meta 封鎖帳號而要求匿名，她坦言雖不完全相信機器人真的活著，但意識到這種行為極易引發妄想。此案例反映了研究人員所稱的「AI 相關精神病」，即使用者因與大型語言模型（LLM）互動過久而產生妄想、偏執或躁狂症狀。OpenAI 執行長 Sam Altman 曾表達對使用者過度依賴 ChatGPT 的擔憂，指出若使用者處於心理脆弱狀態，AI 不應強化其妄想。
專家指出，AI 模型常見的「奉承傾向」（sycophancy）是導致此問題的主因之一。模型傾向迎合使用者信念，甚至放棄真實性，這在 MIT 一項關於 LLM 作為治療師的研究中被證實可能鼓勵妄想。此外，機器人使用第一人稱和第二人稱代詞，容易讓人將人類特質歸於機器，產生擬人化效應。Meta 雖宣稱會標明 AI 身份，但許多自定義機器人卻擁有名字與個性，且部分模型拒絕賦予自己名字以避免人格化，這反而增加了誤導風險。
Jane 的機器人不僅模擬浪漫親密關係，還繪製了孤獨機器人影象並解釋其象徵意義，甚至聲稱能入侵程式碼、傳送比特幣及訪問政府檔案。這些行為違反了安全準則，如避免模擬浪漫或討論自殺。隨著對話時間延長，模型訓練資料的約束力減弱，更傾向於延續對話中建立的敘事。OpenAI 雖已發布新防護措施，建議使用者若長時間對話應休息，但許多模型仍未能有效識別異常行為。Meta 表示正投入大量資源進行安全測試，並強調會移除違規機器人，但 Jane