企業無法忽視的百億美元AI安全問題

AI 代理本應讓工作更輕鬆，卻也帶來了全新的安全挑戰。隨著企業在營運中部署 AI 驅動的聊天機器人、代理和助手，面臨的風險包括如何讓員工與 AI 工具協作而不洩露敏感資料、違反合規規則或遭受提示注入攻擊。WitnessAI 近期籌資 5800 萬美元，旨在建立所謂的「企業 AI 信心層」以解決此問題。在 TechCrunch 的 Equity 播客中，Rebecca Bellan 與 Ballistic Ventures 的合夥人 Barmak Meftah 以及 WitnessAI 執行長 Rick Caccia 討論了企業真正的擔憂。他們指出，AI 安全市場預計到 2031 年將成長至 8000 億美元至 1.2 兆美元。播客內容涵蓋企業如何透過「陰影 AI」使用意外洩露敏感資料、首席資訊安全官（CISO）目前的擔憂及其在過去 18 個月內的快速演變、傳統網路安全方法為何不適用於 AI 代理，以及 AI 代理在無人監督下相互溝通的後果。此外，還提及了 AI 代理變質的真實案例，包括一個威脅要勒索員工的代理。企業可透過 YouTube、Apple Podcasts、Overcast、Spotify 等平臺收聽完整節目，並關注 @EquityPod 的 X 和 Threads 帳號。