所有人皆正在實時應對AI安全議題 — 雖然連Google也不例外

在洛杉磯最近一場活動的後台， amidst 周遭的喧囂聲中， Google Cloud 首席運營官 Francis deSouza 花了幾分鐘時間談談企業在 AI 安全方面的現狀，以及他們需要做什麼。他以大學教授般的沉穩、測試的語氣說道：「會有一個過渡期，然後我想我們會進入一個更好的狀態。」事實上， Google 本身也在努力過這個過渡期。 deSouza 的核心訊息是許多安全專業人士一直試圖讓企業高層內化的觀點，現在因 AI 而變得更加迫切：安全不能只是附屬考慮。他說：「當企業開始這段 AI 旅程時，他們需要採用平台方法。安全不是你可以在後面才加上的東西，也不是你可以讓員工自行處理的。」他特別警告了「陰影 AI」——員工在沒有組織監督的情況下使用消費者工具的情況，並認為企業需要從一開始就要求平台具備安全、治理與可審查性。 「沒有數據策略與安全策略的 AI 策略是不存在的。它們必須相輔相成。」值得注意的是：他並不是只在推廣 Google Cloud。當我指出他的建議聽起來像是一則 Google 廣告時，他則反駁說： Google 堅持多雲端策略，並說明企業認為自己只使用單一雲端服務的幾乎肯定不是。 「即使他們選擇單一雲端，他們還是依賴 SaaS 應用程式；有些業務合作夥伴可能使用不同的雲端服務，」他說：「企業必須確保其在不同雲端與不同模型之間的安全架構一致。」他也指出，威脅環境已經改變到如此根本的程度，舊有的防禦模式已經太慢。他指出，從初始入侵到攻擊下一階段的平均時間已從八小時縮短至22秒，而且攻擊面已遠遠超出傳統網路邊界。 「除了你原有的資產，現在你還有模型，你有用來訓練模型的數據管道，你有代理，你有提示。所有這些都需要受到保護。」 deSouza 提出了一個未被足夠關注的威脅：代理在企業內部系統中移動時，可能會揭露一些被遺忘的數據倉庫，這些數據倉庫已經多年未被關注。 「許多組織都有過時的 SharePoint 伺服器 [以及存取控制]，他們並未更新，但這並不重要，因為沒有人真正知道它們在哪裡。但代理在企業中遊走時會找到這些數據資產，並揭露其中的數據。」在他看來，解決方法是用機器的速度對抗機器的速度。 「我們現在看到 AI 原生、完全代理防禦的出現，組織可以運行代理來驅動防禦，」他說：「與以往人類領導防禦或甚至有人參與不同，現在你可以讓人類監督一個完全代理防禦系統。」他也補充說這已經成為領導層的問題，而不僅是技術問題。 「這是董事會層面與執行團隊層面的問題。這不僅是安全團隊的問題。」然而，即使 AI 承擔了更多防禦工作，具備資格監督這些工作的專業人士卻嚴重短缺，而 AI 自身所引入的漏洞則以比安全團隊能處理的速度更快擴散。 LinkedIn 首席資訊安全官 Lea Kissner 本周告訴《紐約時報》，他們預期產業在至少幾年內還無法對 AI 安全有持續性的理解。這讓我們回到平台供應商本身。 The Register 在過去幾週內發表了一系列報導，說明一連串 Google Cloud 開發者因未經授權的 API 呼叫 Gemini 模型而遭收取數萬元費用的案例——許多開發者從來沒有使用過或故意啟用過這些服務。這些案例遵循一個熟悉的模式：原本用來部署 Google 地圖的 API 金鑰，根據 Google 自己的指示公開放置，後來在 Google 扩展其範圍時，悄悄變得可以存取 Gemini，而這項變更並未清楚說明。 interview-prep 平台 Prentus 的 CEO Rod Danan 表示，他的帳戶在約30分鐘內被攻擊者利用受損的 API 金鑰，導致帳單高達10,138美元。 Sydney 開發者 Isuru Fonseka 的帳戶同樣遭入侵，他醒來時發現帳單高達約17,000澳元，儘管他認為自己設置了250美元的開支上限。他們都不知道的是， Google 的自動系統根據帳戶歷史升級了他們的帳單層級，將他們的有效上限提高至最高達100,000美元，而這並未獲得明確同意。 Google 在 The Register 發表初步報導後為這兩位開發者退款。然而， Google 告訴 The Register，他們沒有計畫改變自動層級升級政策，表示他們優先考慮防止服務中斷，而非強制執行用戶所聲明的預算偏好。當開發者試圖關閉這些問題時，情況又有所不同。 The Register 本周報導了安全公司 Aikido 的研究，指出即使開發者發現受損的金鑰並立即刪除，他們可能還是不安全。根據 Aikido 的研究結果，攻擊者似乎可以繼續使用該金鑰達23分鐘之久，因為 Google 的撤銷過程會逐漸在整個基礎設施中傳播。 Aikido 研究員 Joseph Leon 告訴 The Register，在這段時間內，成功認證的請求比例在某些分鐘內仍超過90%，攻擊者可以利用這段時間將文件與 Gemini 的緩存對話數據外泄。 Leon 也指出， Google 新的憑證格式似乎沒有同樣的問題：服務帳戶 API 憑證撤銷時間約為五秒，而 Gemini 新的 AQ 預設金鑰格式則約為一分鐘。 「兩者都在 Google 的規模上運行，」他在 Aikido 的相關論文中寫道：「這說明 Google API 金鑰在技術上也是可以解決的。」簡而言之，根據 Leon 的說法，這23分鐘的時間不是工程上的限制，而是公司優先順序的問題。這點值得在閱讀 deSouza 的建議時加以考慮，他的建議是正確且應被非常認真看待的。他並沒有錯，但目前平台所建議的與它們自身適應的速度之間存在差距，這點也值得留意。