分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
OpenAI 發布鎖定模式以保護敏感資料免受提示注入攻擊
OpenAI 宣佈推出新功能「鎖定模式」，旨在提供額外的保護，防止來自網頁和其他內容來源的惡意聊天機器人指令注入攻擊。該模式會禁用即時網頁瀏覽，僅允許訪問快取內容；同時阻止從網頁檢索和顯示圖片（但使用者仍可生成圖片），並關閉深度研究與代理模式。儘管如此，OpenAI 指出，即使啟用鎖定模式，ChatGPT 仍可能面臨提示注入風險，例如惡意指令可能出現在快取網頁內容或上傳的檔案中，進而影響回應的行為或準確性。此功能的主要目標是降低敏感資料在處理過程中洩露的可能性。OpenAI 強調，鎖定模式並非針對所有人設計，而是專為處理敏感資料且希望獲得更嚴格保護，以應對與提示注入相關的資料外洩風險的使用者與組織。目前，該功能正逐步向自服務 ChatGPT Business 帳戶以及符合資格的個人帳戶推出。
-
出版商將可選擇退出AI搜尋服務， thanks to new regulation
英國已對 Google 的 AI 搜尋霸權實施法律監管，Google 於週三宣佈遵守英國監管要求，必須讓出版商能選擇退出被聚合至 AI 搜尋。出版商可透過 Google 搜尋控制檯的新開關功能進行操作，一旦選擇退出，其網站將不會出現在 AI 概述、AI 模式或發現頁面的 AI 概述等生成式 AI 搜尋功能中。Google 同時指出，其 AI 概述目前擁有超過 25 億月活躍使用者，AI 模式則超過 10 億月活躍使用者。Google 表示將先測試此選項，再逐步全球推廣。英國競爭與市場管理局（CMA）稱此舉為「世界首創」，將讓出版商包括新聞機構在與 Google 談判內容使用權時處於更有利地位。CMA 於去年十月將 Google 指定為「戰略市場地位」，為未來法規奠定基礎。今年一月，CMA 推動 Google 讓網站出版商選擇內容是否被聚合至 AI 搜尋功能或用於訓練獨立 AI 模型。除退出開關外，Google 還被要求確保 AI 功能中的出版商內容有正確歸屬，並使用清晰連結。Google 表示已增加 AI 回應中的內嵌連結數量並新增網站預覽以鼓勵點選。Google 強調，網站選擇退出生成式 AI 搜尋功能不會影響傳統搜尋排名，但將透過搜尋控制檯提供新指標，如展示次數等，以說服考慮退出的出版商。更多指標將隨時間增加。
-
google推出偽裝電話檢測功能以防範ai深度假訊息詐騙
Google 於週二宣佈，Android 系統將推出偽裝電話偵測功能，以保護使用者免受 AI 深度偽造技術所引發的詐騙侵害。該功能將於本月在全球範圍內透過 Phone by Google 應用程式向 Android 12 及以上裝置推出，首批使用者為 Pixel 手機。隨著人們越來越拒絕接聽未知號碼來電，詐騙者正改變戰術，利用 AI 深度偽造技術偽裝成受信任的電話號碼，並模仿權威人士、家人或僱主的聲音進行詐騙。例如，使用者可能接到顯示來電顯示為「媽媽」且聲音完全相同的電話，但實際上詐騙者正使用 AI 工具冒充其母親，要求支付虛構緊急狀況的款項。此新功能預設開啟並自動在後臺運作。Google 解釋稱，該功能類似於裝置間的「數位握手」。當聯絡人使用 Phone by Google 呼叫使用者時，對方手機會傳送靜音確認訊號至使用者裝置以驗證來電合法性。若詐騙者試圖冒充受信任的聯絡人，初始確認訊號將缺失，使用者裝置會立即察覺並向聯絡人實際裝置傳送訊號進行二次確認。若聯絡人真實裝置表示「目前未進行通話」，使用者螢幕將顯示警告提示其立即結束通話。Google 指出，此技術建立在富通訊服務（RCS）之上，使其他應用程式和企業也能採用該技術。此次偽裝電話偵測功能的發布與 Android 的其他更新一同推出，其中包括 Google 照片的新功能，允許使用者混合搭配服裝並在虛擬中試穿。新的「衣櫥」功能會將照片庫中的服裝編目為可瀏覽的快照。該功能將於下週向美國、印度和巴西的合格使用者（Android 10+）推出。此外，Google Play 書籍新增「追趕進度」功能，讓使用者可跳回故事並獲得摘要，使用者還可標記段落以提問。這些功能今日對部分英文標題推出。Google 還透過「圈選搜尋」功能實現整套服裝的搜尋，現在可一次找出整套服裝中的所有物品，無需逐一搜尋。此更新現已適用於所有具備圈選搜尋功能的 Android 14 及以上裝置。
-
川普簽署較窄範疇行政命令規管AI後續因業界反對
美國總統唐納德·特朗普於週二簽署行政命令，旨在讓政府在 AI 模型公開前有機會進行審查。該命令要求特定 AI 公司自願在產品發布前 30 天將新模型提交給政府測試或評估。此前草案曾要求提前 90 天審查，但受 AI 產業內部人士推動縮短至兩週視窗的影響，特朗普最終延遲簽署了較具挑戰性的版本。特朗普曾計劃在 5 月底簽署更嚴格的版本，但遭包括風投資本家及前白宮 AI czar David Sacks 在內的產業反推而延後。總統當時表示不希望阻礙美國 AI 企業對華競爭，並強調此命令不授權強制性的政府許可、預先審查或批准要求。特朗普原計劃與矽谷頂尖 CEO 共同簽署，但最終私下簽署了現行版本。此外，該命令指示司法部將 AI 輔助駭客攻擊及未經授權訪問等犯罪視為高優先順序執法領域。這是特朗普針對 AI 簽署的首份行政命令，去年 12 月他曾簽署另一份命令，要求開發統一的國家 AI 政策框架以預先抵銷各州 AI 法律。