分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
OpenAI 發布鎖定模式以保護敏感資料免受提示注入攻擊
OpenAI 宣佈推出新功能「鎖定模式」,旨在提供額外的保護,防止來自網頁和其他內容來源的惡意聊天機器人指令注入攻擊。該模式會禁用即時網頁瀏覽,僅允許訪問快取內容;同時阻止從網頁檢索和顯示圖片(但使用者仍可生成圖片),並關閉深度研究與代理模式。儘管如此,OpenAI 指出,即使啟用鎖定模式,ChatGPT 仍可能面臨提示注入風險,例如惡意指令可能出現在快取網頁內容或上傳的檔案中,進而影響回應的行為或準確性。此功能的主要目標是降低敏感資料在處理過程中洩露的可能性。OpenAI 強調,鎖定模式並非針對所有人設計,而是專為處理敏感資料且希望獲得更嚴格保護,以應對與提示注入相關的資料外洩風險的使用者與組織。目前,該功能正逐步向自服務 ChatGPT Business 帳戶以及符合資格的個人帳戶推出。
-
出版商將可選擇退出AI搜尋服務, thanks to new regulation
英國已對 Google 的 AI 搜尋霸權實施法律監管,Google 於週三宣佈遵守英國監管要求,必須讓出版商能選擇退出被聚合至 AI 搜尋。出版商可透過 Google 搜尋控制檯的新開關功能進行操作,一旦選擇退出,其網站將不會出現在 AI 概述、AI 模式或發現頁面的 AI 概述等生成式 AI 搜尋功能中。Google 同時指出,其 AI 概述目前擁有超過 25 億月活躍使用者,AI 模式則超過 10 億月活躍使用者。Google 表示將先測試此選項,再逐步全球推廣。英國競爭與市場管理局(CMA)稱此舉為「世界首創」,將讓出版商包括新聞機構在與 Google 談判內容使用權時處於更有利地位。CMA 於去年十月將 Google 指定為「戰略市場地位」,為未來法規奠定基礎。今年一月,CMA 推動 Google 讓網站出版商選擇內容是否被聚合至 AI 搜尋功能或用於訓練獨立 AI 模型。除退出開關外,Google 還被要求確保 AI 功能中的出版商內容有正確歸屬,並使用清晰連結。Google 表示已增加 AI 回應中的內嵌連結數量並新增網站預覽以鼓勵點選。Google 強調,網站選擇退出生成式 AI 搜尋功能不會影響傳統搜尋排名,但將透過搜尋控制檯提供新指標,如展示次數等,以說服考慮退出的出版商。更多指標將隨時間增加。
-
google推出偽裝電話檢測功能以防範ai深度假訊息詐騙
Google 於週二宣佈,Android 系統將推出偽裝電話偵測功能,以保護使用者免受 AI 深度偽造技術所引發的詐騙侵害。該功能將於本月在全球範圍內透過 Phone by Google 應用程式向 Android 12 及以上裝置推出,首批使用者為 Pixel 手機。隨著人們越來越拒絕接聽未知號碼來電,詐騙者正改變戰術,利用 AI 深度偽造技術偽裝成受信任的電話號碼,並模仿權威人士、家人或僱主的聲音進行詐騙。例如,使用者可能接到顯示來電顯示為「媽媽」且聲音完全相同的電話,但實際上詐騙者正使用 AI 工具冒充其母親,要求支付虛構緊急狀況的款項。此新功能預設開啟並自動在後臺運作。Google 解釋稱,該功能類似於裝置間的「數位握手」。當聯絡人使用 Phone by Google 呼叫使用者時,對方手機會傳送靜音確認訊號至使用者裝置以驗證來電合法性。若詐騙者試圖冒充受信任的聯絡人,初始確認訊號將缺失,使用者裝置會立即察覺並向聯絡人實際裝置傳送訊號進行二次確認。若聯絡人真實裝置表示「目前未進行通話」,使用者螢幕將顯示警告提示其立即結束通話。Google 指出,此技術建立在富通訊服務(RCS)之上,使其他應用程式和企業也能採用該技術。此次偽裝電話偵測功能的發布與 Android 的其他更新一同推出,其中包括 Google 照片的新功能,允許使用者混合搭配服裝並在虛擬中試穿。新的「衣櫥」功能會將照片庫中的服裝編目為可瀏覽的快照。該功能將於下週向美國、印度和巴西的合格使用者(Android 10+)推出。此外,Google Play 書籍新增「追趕進度」功能,讓使用者可跳回故事並獲得摘要,使用者還可標記段落以提問。這些功能今日對部分英文標題推出。Google 還透過「圈選搜尋」功能實現整套服裝的搜尋,現在可一次找出整套服裝中的所有物品,無需逐一搜尋。此更新現已適用於所有具備圈選搜尋功能的 Android 14 及以上裝置。
-
川普簽署較窄範疇行政命令規管AI後續因業界反對
美國總統唐納德·特朗普於週二簽署行政命令,旨在讓政府在 AI 模型公開前有機會進行審查。該命令要求特定 AI 公司自願在產品發布前 30 天將新模型提交給政府測試或評估。此前草案曾要求提前 90 天審查,但受 AI 產業內部人士推動縮短至兩週視窗的影響,特朗普最終延遲簽署了較具挑戰性的版本。特朗普曾計劃在 5 月底簽署更嚴格的版本,但遭包括風投資本家及前白宮 AI czar David Sacks 在內的產業反推而延後。總統當時表示不希望阻礙美國 AI 企業對華競爭,並強調此命令不授權強制性的政府許可、預先審查或批准要求。特朗普原計劃與矽谷頂尖 CEO 共同簽署,但最終私下簽署了現行版本。此外,該命令指示司法部將 AI 輔助駭客攻擊及未經授權訪問等犯罪視為高優先順序執法領域。這是特朗普針對 AI 簽署的首份行政命令,去年 12 月他曾簽署另一份命令,要求開發統一的國家 AI 政策框架以預先抵銷各州 AI 法律。