OpenAI 發布鎖定模式以保護敏感資料免受提示注入攻擊

OpenAI 公告推出一個新功能，表示將提供額外防範提示注入攻擊的保護，這種攻擊方式是將惡意的聊天機器人指令隱藏在網頁和其他內容來源中。除了其他功能之外，Lockdown Mode 將會關閉即時網頁瀏覽（因此只能存取快取的內容），以及從網頁上檢索和顯示圖片（你仍可以產生圖片），深度研究以及 AI 代理模式。公司表示，即使啟用 Lockdown Mode，ChatGPT 仍可能受到提示注入的影響 — 例如，這些提示可能出現在快取的網頁內容或上傳的檔案中，並可能影響回應的行為或準確性。但目標是降低在這個過程中敏感資料被分享的可能性。OpenAI 表示，「Lockdown Mode 是不是為所有人設計的，它是為處理敏感資料的人士與組織所設計，用以降低與提示注入相關的資料外洩風險。」公司表示目前正將 Lockdown Mode 推出至自服務的 ChatGPT 商業帳戶，以及符合資格的個人帳戶。