OpenAI 發布鎖定模式以保護敏感資料免受提示注入攻擊

OpenAI 宣佈推出新功能「鎖定模式」，旨在提供額外的保護，防止來自網頁和其他內容來源的惡意聊天機器人指令注入攻擊。該模式會禁用即時網頁瀏覽，僅允許訪問快取內容；同時阻止從網頁檢索和顯示圖片（但使用者仍可生成圖片），並關閉深度研究與代理模式。儘管如此，OpenAI 指出，即使啟用鎖定模式，ChatGPT 仍可能面臨提示注入風險，例如惡意指令可能出現在快取網頁內容或上傳的檔案中，進而影響回應的行為或準確性。此功能的主要目標是降低敏感資料在處理過程中洩露的可能性。OpenAI 強調，鎖定模式並非針對所有人設計，而是專為處理敏感資料且希望獲得更嚴格保護，以應對與提示注入相關的資料外洩風險的使用者與組織。目前，該功能正逐步向自服務 ChatGPT Business 帳戶以及符合資格的個人帳戶推出。