針對 AI 生成影象日益難以辨認的挑戰,OpenAI 於週二宣佈兩項新措施以協助對抗此問題。公司承諾採用名為 C2PA 的公開標準,該標準會在影像的後設資料中加入明確訊號,標示該影像是由 AI 生成。此外,OpenAI 與 Google 合作,將引入一種名為 SynthID 的隱形水印。這種水印雖然較難被檢測,但也更難以被惡意行為者擦除。這些新保護措施僅適用於由 OpenAI 產品生成的影像,旨在確保 OpenAI 不參與問題,同時不影響來自其他工具的大量影像。OpenAI 還預覽了一款公共驗證工具,可檢查上述兩種訊號,讓使用者輕鬆測試影像是否由 AI 生成。該工具初期僅涵蓋 OpenAI 產品生成的影像,公司希望未來能擴充套件至其他工具。
成立於 2021 年的內容 provenance 與真實性聯盟(Coalition for Content Provenance and Authenticity,簡稱 C2PA)是一個非營利組織,致力於減輕 AI 影像對公共討論的有害影響。C2PA 標準已被多款 Google 產品採用,但業界整體採用率仍不一致。由於 C2PA 訊號可透過後設資料清晰存取,但也可能被操弄,因此對受信任的使用者最為有效。SynthID 則是 Google 開發的新嘗試,旨在提供更堅實的防護,即使惡意行為者嘗試透過截圖、縮放或數位操作移除水印,該水印仍能持續存在。OpenAI 指出,水印在經過如截圖等轉換時可能更持久,而後設資料則能提供比水印更多的資訊。兩者互為補充,共同使影像來源的證明比單獨使用任一層面更具韌性。