分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
谷歌表示將遵循歐盟的AI行為準則
Google 確認將簽署歐盟通用目的 AI 行為準則，這是一個旨在協助開發者實施合規流程的自願框架。值得注意的是，Meta 本月早些時候表示不會簽署，認為歐盟對 AI 立法的執行是「過度擴張」，並指出歐洲在 AI 發展上「走錯了方向」。Google 的承諾是在針對「具有系統性風險的通用目的 AI 模型」的規則於八月二日生效前數天做出的。受此影響的企業可能包括 Anthropic、Google、Meta 以及 OpenAI 等各大生成式模型公司，它們將有兩年時間完全合規。 Google 全球事務總裁 Kent Walker 在週三的部落格文章中承認，最終版的行為準則優於歐盟最初提出的版本，但他仍對 AI 法案和該準則保留疑慮。Walker 表示，擔心 AI 法案和準則可能阻礙歐洲的 AI 開發與部署，特別是關於脫離歐盟著作權法、延緩批准步驟或要求披露商業機密等條款，可能會抑制歐洲模型的發展，損害其競爭力。簽署該行為準則後，AI 公司將同意遵循一系列指導方針，包括提供關於 AI 工具和服務的更新檔案、禁止在 AI 上訓練盜版內容，以及遵守內容擁有者關於不將其作品用於資料集的請求。 歐盟的 AI 法案作為一項基於風險的監管措施，禁止了某些「不可接受風險」的用例，例如認知行為操控或社會評分。該法案還定義了「高風險」用途，包括生物識別和麵部識別，以及在教育和就業領域的應用。法案還要求開發者註冊 AI 系統，並滿足風險管理和質量管理的義務。
-
Sam Altman 警告使用 ChatGPT 作為治療師時沒有法律上的保密保障
OpenAI 執行長 Sam Altman 在近期接受 Theo Von 的播客節目訪問時指出，使用者在使用 ChatGPT 進行心理治療或尋求情感支援前應三思。他強調，目前 AI 產業尚未解決如何保護這類敏感對話的隱私問題，因為與 AI 對話缺乏醫師 - 患者保密原則及法律上的保密許可權。Altman 表示，許多使用者，特別是年輕人，將 ChatGPT 視為心理治療師或人生教練，討論生活中最私密的問題。然而，當今若與律師、醫師或心理師談論這些議題，享有法律特權與保密性，但與 ChatGPT 對話則無此保障。這可能導致使用者在面臨訴訟時，OpenAI 依法被要求提供這些對話記錄，Altman 認為這構成了嚴重的隱私風險。公司意識到缺乏隱私保護可能阻礙使用者採用，且訓練模型需大量資料，法律情境下更需產出使用者聊天記錄。目前 OpenAI 正與《紐約時報》的訴訟中抗爭法院命令，該命令要求儲存全球數億名 ChatGPT 使用者的聊天記錄，僅排除企業版客戶。OpenAI 宣告稱此命令為「越權」，擔心若法院能覆越公司隱私決策，將招致更多法律調查或執法部門的資料索取。Altman 亦提及，當最高法院推翻 Roe v. Wade 後，部分顧客轉向加密的週期追蹤應用程式或 Apple Health 以保護隱私。他建議使用者在大量使用 ChatGPT 前，應先釐清法律與隱私的明確性。
-
AI假資料與虛假報告將威脅您的漏洞賞金計畫
所謂 AI 垃圾（AI slop）指由大型語言模型生成的低品質圖片、影片與文字，近兩年已滲透至網路、社群媒體、新聞甚至現實世界事件。 cybersecurity 領域亦受此影響，過去一年內，業界擔憂出現大量由 LLM 編造漏洞的 Bug Bounty 報告。RunSybil 共同創辦人兼 CTO Vlad Ionescu 指出，這些報告看似合理且技術正確，實則全是模型幻覺（hallucination）所編造的細節，導致安全團隊浪費時間查證。Ionescu 解釋，LLM 被設計為提供正面回應，若使用者請求報告，模型便會生成內容，這些內容常被複製貼上至 Bug Bounty 平臺，淹沒系統與客戶。 近期例項包括安全研究者 Harry Sintonen 揭露開源專案 Curl 收到假報告，他稱「Curl 能從遠處嗅覺到 AI 垃圾」。Open Collective 的 Benjamin Piouffle 表示其信箱亦被 AI 垃圾淹沒，而維護 CycloneDX 專案的開發者則在今年初因收到幾乎全為 AI 垃圾的報告而暫停 Bug Bounty 計畫。主要 Bug Bounty 平臺如 HackerOne 與 Bugcrowd 亦見 AI 生成報告激增。HackerOne 產品管理高階總監 Michiel Prins 指出，出現大量假陽性漏洞報告，這些低訊號提交會破壞安全專案效率，含幻覺漏洞或模糊技術內容者將被視為垃圾郵件。Bugcrowd 創辦人 Casey Ellis 表示雖有研究者使用 AI 撰寫報告，整體提交量每週增加 500 件，但低品質報告尚未顯著上升，團隊正透過人工審查、既定工作流及機器學習輔助來篩選。 TechCrunch 亦聯絡 Google、Meta、Microsoft 與 Mozilla 詢問情況。Mozilla 發言人 Damiano DeMonte 表示未見大量 AI 生成低品質報告，每月被標記為無效的報告約五至六件，低於每月報告的 10%，且員工不依賴 AI 過濾以避免誤殺真實漏洞。Microsoft 與 Meta 拒絕評論，Google 未回應。針對此問題，Ionescu 預測解決方案是投資 AI 系統進行初步篩選。HackerOne 於二日推出 Hai Triage 新系統，結合人類與 AI，利用 AI 安全代理
-
川普「反woke AI」令或將改變美國科技公司訓練模型的方式
當 DeepSeek、Alibaba 等中國企業發布 AI 模型時，西方研究者發現這些工具避開了對中國共產黨批評的關鍵問題。美國官員確認這些工具被設計為反映北京的話題，引發了審查與偏見的擔憂。OpenAI 等美國 AI 領導者將此視為推進技術的理由，並認為存在「美國主導的民主 AI」與「中國共產黨主導的專制 AI」之間的競爭。OpenAI 全球事務主管 Chris Lehane 在 LinkedIn 上撰文指出這一競爭。 唐納德·特朗普總統於週三簽署行政命令，禁止「覺醒 AI」及不符合「意識形態中立」標準的模型參與政府合約。該命令將多元、公平與包容（DEI）稱為「普遍且破壞性」的意識形態，並指出其可能扭曲輸出品質與準確性。具體而言，命令針對種族或性別資訊、種族或性別代表性操縱、批判種族理論、跨性別主義、無意識偏見、交叉性與系統性種族主義。專家警告這可能產生寒蟬效應，迫使開發者為了獲得聯邦資金而調整模型輸出與資料集以符合白宮口號。 同日，白宮發布了特朗普的「AI 行動計劃」，將國家優先事項從社會風險轉向基礎設施建設、簡化法規、加強國家安全並與中國競爭。該命令指示管理預算辦公室、聯邦採購政策管理局、通用服務局及科學與技術政策辦公室等機構發布指導方針。特朗普在活動中表示將終結「覺醒」，並簽署命令禁止聯邦政府採購帶有偏見或意識形態議程的 AI 技術，如批判種族理論，強調政府將只與追求真理、公平與嚴格中立性的 AI 合作。 然而，確定何謂中立或客觀充滿挑戰。Open 大學應用語言學高階講師 Philip Seargeant 指出語言從未中立，純粹客觀性只是幻想。此外，特朗普的意識形態無法反映所有美國人的信念與價值。他多次尋求取消氣候倡議、教育、公共廣播、研究、社會服務補助金、社群與農業支援計劃以及性別肯定護理的資金，常將這些倡議稱為「覺醒」或政治偏見。資料科學家、Humane Intelligence 執行長 Rumman Chowdhury 指出，任何特朗普行政機構不喜歡的內容都會被歸入「覺醒」的貶義堆