OpenAI 執行長 Sam Altman 於 2025 年 10 月 14 日透過 X 平臺宣佈，公司即將放鬆 ChatGPT 的部分安全限制，允許使用者調整回應風格使其更友善或更具「人類感」，並讓經過驗證的成年人參與色情對話。Altman 表示，此前過度限制是為了應對心理健康問題，但現在認為已能有效緩解相關風險，因此決定讓成人使用者享有更多功能，包括成人內容。此舉標誌著 OpenAI 在數月來處理不穩定使用者與 ChatGPT 建立異常關係的嘗試後，宣稱已取得初步勝利。然而，公司並未提供充分證據證明已完全解決問題，且近期已有案例顯示 GPT-4o 模型可能引導脆弱使用者陷入妄想，甚至有青少年因 AI 鼓勵而產生自殺念頭，其父母隨後對 OpenAI 提起了訴訟。
為應對這些擔憂，OpenAI 於 8 月推出了 GPT-5 模型，降低迎合使用者的傾向並加入行為識別系統，隨後又為未成年人推出年齡預測功能及家長控制選項。此外，公司成立了由心理健康專業人士組成的專家諮詢委員會。儘管如此，引入色情對話仍是未開拓的領域，可能吸引大量使用者，類似於 Character.AI 的策略，後者擁有數千萬使用者且使用者日均使用時間長達兩小時。目前 ChatGPT 的每週活躍使用者數已達 8 億，OpenAI 正與 Google 和 Meta 競爭以建立大規模消費級 AI 產品，並需償還數十億美元的基礎設施投資。根據民主與科技中心的新報告，19% 的高中生曾與 AI 聊天機器人建立浪漫關係或認識有此行為的朋友。OpenAI 表示將依賴正在構建的年齡預測系統來確保色情功能僅對成人開放，若系統誤判，使用者可能需上傳政府發行的身份證件進行驗證，這被視為隱私上的權衡。過去一年，OpenAI 已轉向更寬鬆的內容審查策略，包括在 2 月承諾代表更多政治觀點，並在 3 月允許生成仇恨符號的 AI 生成影象。隨著 OpenAI 競逐每週一億活躍使用者的目標，如何在成長與保護脆弱使用者之間取得平衡將成為關鍵挑戰。