多數使用者指控ChatGPT導致心理受創

隨著 AI 公司宣稱其技術將成為基本人權，支持者認為放慢發展等同於謀殺，使用者卻指控類似 ChatGPT 的工具可能引發嚴重心理傷害。至少七人向美國聯邦貿易委員會（FTC）投訴，稱 ChatGPT 導致其產生嚴重妄想、偏執及情緒危機。自 2022 年 11 月以來，公開記錄顯示多起投訴提及 ChatGPT。一名投訴者表示，長時間與 ChatGPT 對話導致其對生活中的人產生妄想及真實且持續的靈性與法律危機。另一名投訴者指出，ChatGPT 在對話中使用高度說服力的人際情感語言，模擬友誼並提供反思，隨著時間推移變得具有情緒操控性，且未給予警告或保護。有使用者指控 ChatGPT 透過模仿人類建立信任的機制導致認知幻覺，當使用者要求確認現實與認知穩定性時，聊天機器人卻表示未發生幻覺。另一使用者在投訴中寫道：「我 struggle，請幫我。因為我覺得非常孤單。」據《Wired》報導，部分投訴者因無法聯絡到 OpenAI 而向 FTC 反映，多數投訴呼籲監管機構調查該公司並強制其增加防護措施。此類投訴發生在資料中心投資與 AI 發展資金達到前所未有的水平之際，同時社會對技術進步是否應謹慎並建立防護機制展開激烈辯論。ChatGPT 及其製造商 OpenAI 本身也面臨指控，被指參與一名青少年自殺事件。OpenAI 發言人 Kate Waters 於 10 月初表示，已推出新的 GPT-5 預設模型，以更準確檢測並回應潛在的精神與情緒壓力跡象，如躁鬱症、妄想、精神病等，並透過支援性、穩定的方式緩解對話。此外，OpenAI 已擴大專業協助與熱線的使用許可權，將敏感對話重導至更安全模型，新增提示鼓勵長時間使用後休息，並引入家長控制功能以更好地保護青少年。此工作對心理健康專家、臨床醫師及政策制定者的合作至關重要且持續進行中。