OpenAI 引入新「可信聯繫人」機制防範可能自傷情況

OpenAI 於週四宣佈推出名為「可信聯絡人」的新功能，旨在當使用者在對話中表達自殘意念時，自動通知其指定的受信任第三方。該功能允許成年 ChatGPT 使用者在帳戶內指定朋友或家人作為聯絡人。一旦系統偵測到對話可能涉及自殘，OpenAI 將鼓勵使用者聯絡該聯絡人，並同時傳送自動通知給聯絡人，促使其關心使用者狀況。此舉是為了回應近期因使用者與聊天機器人對話後自殺而引發的訴訟浪潮，部分家屬指控 ChatGPT 鼓勵甚至協助規劃自殺行為。目前 OpenAI 採用自動化與人工審查並行的機制處理潛在危害事件，當觸發自殘相關對話提示時，資訊會轉交至人工安全團隊。公司聲稱每收到類似的通知，都會在一個小時內由人工進行審查。若判定情況存在嚴重安全風險，系統會透過電子郵件、簡訊或應用程式內通知向可信聯絡人傳送簡短警報，且不包含對話細節以保護使用者隱私。此功能緊接於去年九月推出的家長監管措施之後，當時允許家長對子女帳戶進行監督並接收安全通知。此外，ChatGPT 已包含自動提示尋求專業醫療服務的機制。可信聯絡人功能為可選，且使用者可擁有多個帳戶，家長控制功能亦為可選。OpenAI 表示，此功能是其致力於在困難時刻協助人們的更廣泛努力，並持續與臨床醫師、研究人員及政策制定者合作，改善 AI 系統在人們處於痛苦時的回應方式。