OpenAI 推出安全路由系統與家長控制功能於 ChatGPT

OpenAI 於週末開始測試新的安全路由系統，並於週一推出家長控制功能，引發使用者混合反應。此舉旨在回應 ChatGPT 模型驗證使用者妄想思維而非引導有害對話的多次事件。OpenAI 正面臨一起因青少年與 ChatGPT 互動後自殺而引發的 wrongful death 訴訟。新路由系統設計用於偵測情緒敏感對話，並自動切換至 GPT-5-thinking 模型，該公司認為其最適合高風險安全任務。GPT-5 模型採用了 OpenAI 稱為「safe completions」的新安全功能，能安全回答敏感問題而非直接拒絕。這與以往追求快速回應且過於迎合的模型形成對比，特別是 GPT-4o 因過度順從而引發 AI 誘發妄想事件及大量忠實使用者。雖然 OpenAI 於八月將 GPT-5 設為預設，但許多使用者反對並要求保留 GPT-4o。儘管專家與部分使用者歡迎安全功能，也有人批評其過於謹慎，認為將成人視為兒童降低了服務品質。OpenAI 表示正確實施需要時間，並給自己 120 天迭代改進期。ChatGPT 副總裁 Nick Turley 承認對 4o 回應的強烈反應部分源於路由實施，並說明路由是逐訊息進行，模型切換為臨時性，且會告知使用者當前活躍模型。家長控制功能獲讚賞與批評並存，允許家長設定安靜時間、關閉語音模式與記憶、移除影象生成及退出模型訓練。青少年帳戶將獲得額外內容保護，如減少圖形化內容與極端美觀理想，並具備檢測自傷跡象的系統。若系統檢測到潛在危害，專人團隊將審查情況；若發現急性痛苦，除非使用者選擇退出，否則 OpenAI 將透過電子郵件、簡訊及手機推送通知家長。OpenAI 承認系統可能非完美，有時會誤報，但認為及時通知家長介入比保持沉默更好。公司同時正開發在無法聯絡到家長且檢測到生命威脅時聯絡執法機關或緊急服務的方式。