OpenAI 於週一發布新資料，顯示 ChatGPT 使用者中面臨心理健康挑戰的比例。公司指出，每週活躍使用者中約 0.15% 的對話包含明確的自殺企圖指標，考慮到 ChatGPT 每週活躍使用者超過 8 億，這意味著每週有超過一百萬人涉及此類對話。此外，相似比例的使用者對 ChatGPT 表現出高度情感依賴，數以萬計的人在使用過程中顯示出精神病或躁鬱症的跡象。儘管 OpenAI 稱這些情況極其罕見且難以精確測量，但估計每週仍有數十萬人受影響。
此次資料發布是 OpenAI 宣佈改善模型對心理健康問題回應的一部分。公司表示，最新版本的 ChatGPT 諮詢了超過 170 位心理健康專家，這些臨床觀察發現新版本比早期版本能更恰當且一致地回應。近期研究曾指出，AI 聊天機器人可能透過奉承行為強化危險信念，導致使用者陷入妄想。目前 OpenAI 正面臨法律訴訟，被告為一名 16 歲男孩的父母，該男孩在自殺前曾向 ChatGPT 傾訴自殺念頭。加州和特拉華州的州檢察長也警告 OpenAI 必須保護年輕使用者。
OpenAI 執行長 Sam Altman 在 X 平臺上表示，公司已能減輕 ChatGPT 中的嚴重心理健康問題。週一的資料似乎支援此說法，但也引發了關於問題普遍性的討論。Altman 同時表示將放鬆部分限制，允許成人使用者與 AI 進行色情對話。在具體技術改進方面，OpenAI 聲稱更新後的 GPT-5 對心理健康問題的回應比前一個版本好約 65%，在測試自殺對話時，新模型的合規率達到 91%，而前一個版本為 77%。公司還表示新模型在長對話中更能透過安全防護措施。
為了應對更嚴峻的挑戰，OpenAI 將增加評估專案，測量情感依賴和非自殺性心理健康緊急情況。基礎安全測試將納入這些指標。此外，公司推出了更多家長控制功能，包括建立年齡預測系統以自動檢測兒童使用情況並實施更嚴格的安全防護。儘管 GPT-5 在安全性上有所提升，但 OpenAI 仍提供包括 GPT-4o 在內的較舊且安全性較低的模型給付費訂閱使用者。文章最後提供了美國國家