分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
歐盟AI法案旨在為AI創新建立公平競爭環境：這是什麼
歐盟《人工智慧法案》被稱為全球首部全面人工智慧法規，旨在為歐盟 27 個成員國約 4.5 億居民提供統一法律框架，確保人工智慧商品與服務的自由流通，同時促進創新並保護健康、安全及基本權利。該法案採用風險基礎方法，將應用分為不可接受風險、高風險及有限風險三類，並針對通用目的人工智慧模型（GPAI）設立系統性風險規範。法案於 2024 年 8 月 1 日啟動，主要禁止用途於 2025 年 2 月 2 日生效，大部分條款預計於 2026 年中實施，而通用目的人工智慧模型相關規定則於 2025 年 8 月 2 日生效，現有企業需至 2027 年 8 月 2 日前合規。違規罰則最高可達 3500 萬歐元或上一財政年度全球年營業額的 7%，通用目的人工智慧模型提供者罰則為 1500 萬歐元或年營業額的 3%。儘管部分科技企業如 Meta 曾表達擔憂並拒絕簽署自願通用目的人工智慧行為準則，但 Google、OpenAI、Anthropic 等公司最終簽署，顯示企業對合規態度的分歧。歐盟明確拒絕了要求延期的遊說，堅持原定時程。
-
Google 表示其基於 AI 的漏洞搜尋工具發現 20 個安全漏洞
Google 的 AI 驅動力漏洞獵人 Big Sleep 已報告其首批安全漏洞。Google 安全副總裁 Heather Adkins 於週一宣佈，由 DeepMind 開發並與 Project Zero 精英駭客團隊合作的 LLM 基漏洞研究員 Big Sleep，在多個熱門開源軟體中發現並報告了 20 個缺陷。這些漏洞主要出現在音訊和影片庫 FFmpeg 以及圖片編輯套件 ImageMagick 等開源軟體中。由於漏洞尚未修復，Google 暫未提供影響或嚴重程度的詳細資訊，這是其等待漏洞修復時的標準政策。Google 發言人 Kimberly Samra 表示，雖然報告前有人類專家介入確保品質，但每個漏洞均由 AI 代理發現並重現，無需人類幹預。Google 工程副總裁 Royal Hansen 在 X 上指出，這些發現展示了自動化漏洞發現的「新前沿」。除了 Big Sleep，還有 RunSybil 和 XBOW 等工具。XBOW 曾登上漏洞賞金平臺 HackerOne 的美國排行榜榜首。RunSybil 共同創辦人兼技術長 Vlad Ionescu 認為 Big Sleep 是合法專案，因其設計良好，且背後團隊具備專業經驗與資源。儘管這些工具充滿希望，但也存在顯著缺點。許多軟體維護者抱怨收到實際是幻覺生成的漏洞報告，有人稱其為漏洞賞金領域的 AI 垃圾。Ionescu 曾指出，人們面臨的問題是收到大量看似寶貴但實際是垃圾的報告。
-
perplexity 被指控 Scraping 並未明確禁止 AI Scraping 的網站
根據網路基礎設施供應商 Cloudflare 的研究，AI 新創公司 Perplexity 正在爬取並抓取那些明確表示不希望被爬取的網站內容。Cloudflare 於週一發表報告指出，觀察到 Perplexity 忽視了爬取阻擋機制，並隱藏其活動。Cloudflare 的研究人員指控 Perplexity 在試圖抓取網頁時，刻意隱匿其身份以規避網站偏好。AI 產品依賴大量網際網路資料運作，許多新創公司長期未經授權抓取文字、圖片和影片。近期網站嘗試使用網頁標準 Robots.txt 檔案來指示哪些頁面可被索引，但效果不一。Cloudflare 發現 Perplexity 透過更改機器人「使用者代理」及自主系統網路編號（ASN）來繞過這些阻擋，此行為被觀察到跨越數萬個網域及每日數百萬次請求。Cloudflare 利用機器學習與網路訊號成功識別了該爬蟲。Perplexity 發言人 Jesse Dwyer 將 Cloudflare 的報導稱為「行銷宣傳」，並聲稱截圖顯示無內容被存取，且被提及的機器人並非其所有。Cloudflare 表示，在收到客戶投訴後，確認 Perplexity 確實繞過阻擋。Cloudflare 已將 Perplexity 的機器人從驗證清單中除名，並新增技術加以阻擋。Cloudflare 近期公開反對 AI 爬蟲，上月推出市場讓網站主可向 AI 抓取者收費，執行長 Matthew Prince 指出 AI 破壞了網際網路商業模式。Cloudflare 去年也推出免費工具防止機器人抓取。Perplexity 並非首次被指未經授權爬取，去年有媒體如 Wired 指控其抄襲內容，當時 CEO Aravind Srinivas 在 Disrupt 2024 會議上接受 TechCrunch 記者 Devin Coldewey 採訪時，未能立即提供公司對抄襲的定義。
-
您的公開ChatGPT查詢正被Google及其他搜尋引擎索引
OpenAI 於 2025 年 7 月 31 日宣佈，已移除 ChatGPT 中允許使用者將公開對話展示給搜尋引擎的功能。該功能原本被描述為一項短暫的實驗，旨在測試如何讓有用的對話更容易分享，同時保持使用者對內容的控制權。然而，由於此實驗最終導致使用者意外分享他們不意圖公開的資訊，OpenAI 決定終止該實驗。 透過在 Google、Bing 等搜尋引擎中過濾網址為"chatgpt.com/share"的結果，讀者可以發現陌生人與 ChatGPT 的對話記錄。這些對話內容五花八門，包括浴室裝修諮詢、天文物理問題、食譜建議，也有使用者請求重寫履歷以應徵工作，甚至有人提出關於微波爐使用等荒謬且帶有惡意挑戰的問題。雖然 ChatGPT 預設不會公開對話，且宣告使用者姓名、自訂指令及分享後的訊息將保持私密，但使用者在點選分享並建立連結後，可能未預料到其他搜尋引擎會索引這些連結，從而洩露個人資訊。 Google 表示，雖然其演演算法決定哪些內容出現在搜尋結果中，但無法控制網頁是否公開。網頁發布者擁有決定是否被索引的完全控制權。Google Drive 的公開連結可能會被索引，但一般不會顯示未在網路上公開發布的檔案。OpenAI 確認這些對話是作為實驗的一部分被索引的，並強調除非使用者選擇分享，否則對話不會公開。此更新資訊來自 TechCrunch 的報導，並包含 OpenAI 與 Google 的官方回應。