OpenAI 正在簡化檢測圖片是否由其模型生成的過程

隨著AI圖像生成器在網路上廣為可用，而且技術越來越先進，要分辨一張圖像是否為真實變得越來越困難。但就在周二，OpenAI宣布推出兩項新措施，協助打擊這個問題。該公司承諾採用一個開放標準C2PA，這個標準會在圖像的元數據中加入明顯的標記，用以顯示這張圖像是由AI生成的。OpenAI還與Google合作，將一個名為SynthID的隱藏水印加入圖像中，這個水印較難被偵測到，但如果惡意人士試圖掩蓋其痕跡，也會較難刪除。這項新保護措施僅適用於由OpenAI產品生成的圖像，因此不會影響來自較不負責任的AI工具的圖像洪流；這些措施可以確保OpenAI不是這個問題的一部分。OpenAI還預覽了一款公開驗證工具，用來檢查這兩種標記，讓用戶可以輕鬆測試一張圖像是否是由AI生成的。最初，這個工具僅適用於由OpenAI產品生成的圖像；公司希望未來能逐步擴展至其他工具。成立於2021年的內容來源與真實性聯盟（Coalition for Content Provenance and Authenticity，C2PA）是一個非營利組織，專注於減少AI圖像對公共討論造成的傷害。C2PA標準已被多家Google產品採用，但在整個產業中採用情況仍不一致。因為C2PA標記明顯出現在每個文件的元數據中，因此可以被操控，而且在受信任的用戶之間最有用。SynthID是一個較新的嘗試，設計為更強韌的防篡改措施。這個水印由Google開發，即使惡意人士試圖透過截圖、調整尺寸或數位操作來刪除它，這個水印仍會持續存在。這兩個系統是互相補充的，各自解決對方的弱點。OpenAI在公告中指出：「水印在經過截圖等轉換時可以更具耐久性，而元數據可以提供比單獨水印更多的資訊。透過結合，來源資訊會比單獨使用其中一層更為強韌。」