分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
OpenAI CEO 公開向 Tumbler Ridge 社區致歉
OpenAI 執行長 Sam Altman 致函加拿大 Tumbler Ridge 居民，為公司未能及時向執法部門通報一起近期大規模槍擊案中的嫌疑人而表示「深感抱歉」。警方已確認 18 歲的 Jesse Van Rootselaar 為疑似槍手，據報其造成八人死亡。《華爾街日報》報導，OpenAI 早在 2025 年 6 月便已標記並封鎖了 Van Rootselaar 的 ChatGPT 帳號，因為該帳號曾描述涉及槍擊的場景。當時公司內部人員曾討論是否通報警方，但最終決定不採取行動，直到槍擊案發生後才聯絡加拿大當局。 Altman 在信中提及，他已與 Tumbler Ridge 市長 Darryl Krakowka 及不列顛哥倫比亞省省長 David Eby 討論過此事件，三人一致認為必須公開道歉，但也需給予社群時間哀悼。Altman 強調，雖然言語無法彌補傷害，但道歉是承認社群所遭受不可逆損失的必要步驟。他承諾 OpenAI 將繼續與各級政府合作，確保類似事件不再發生。 不列顛哥倫比亞省省長 Eby 在 X 平臺上表示，Altman 的道歉雖必要，但對於 Tumbler Ridge 家庭所遭受的破壞而言，仍顯嚴重不足。加拿大官員已表示正在考慮針對人工智慧制定新法規，但尚未做出最終決定。OpenAI 隨後表示正在改進安全協議，例如制定更靈活的標準以決定何時將帳號轉介執法部門，並與加拿大執法部門建立直接聯絡點。若有人處於危機或自殺念頭中，請撥打或傳送訊息至 988 以聯絡 988 自殺與危機熱線。
-
另一名受困於Delve的顧客遭遇重大安全事件
合規創業公司 Delve 近期陷入多重爭議與安全事件漩渦。TechCrunch 確認，Delve 曾為 AI 代理訓練公司 Context AI 提供安全認證，而 Context AI 上週披露的安全事件最終導致託管巨頭 Vercel 發生資料洩漏。此外，另一家曾發生安全事件的合規客戶 Lovable 已停止使用 Delve 服務。上月，Delve 因匿名爆料者 DeepDelver 指控其虛構客戶資料並使用橡皮圖章審計師而受到抨擊，Delve 已否認這些說法。隨後，駭客攻擊了 Delve 的另一客戶 LiteLLM 並在其開原始碼中植入惡意軟體，LiteLLM 隨後宣佈解約並重新認證。Delve 還被指未經授權將開源工具當作自有產品使用，導致其聲譽受損，Y Combinator 已與其斷絕關係。 上週，Vercel 確認駭客入侵其內部系統並訪問部分客戶資料，攻擊源頭是一名員工下載了 Context AI 開發的應用並將其連線到 Vercel 的 Google 託管企業賬戶。Context AI 確認曾使用 Delve，但已轉至 Vanta 並委託獨立審計機構 Insight Assurance 進行重新審查。Delve 強調其協助客戶準備如 SOC 2 等審計，但客戶需自行管理程式碼庫與安全運營。Lovable 在 2025 年晚些時候因聲譽問題解約 Delve，並已完成一次安全認證，同時承認因配置錯誤導致客戶聊天資料意外公開，且曾忽略數月前發現的漏洞報告。此外，爆料者指控 Delve 拒絕退款，並透露其團隊於 4 月 15 日至 4 月 19 日在夏威夷舉行了外展會議，TechCrunch 雖無法確認其他指控，但部分證據顯示該行程確實發生。
-
Meta 將記錄員工鍵盤輸入並用於訓練其 AI 模型
Meta 發現了訓練其人工智慧模型的新資料來源，即其內部員工。公司計畫利用從員工滑鼠移動軌跡和鍵盤輸入中篩選出的資料，來構建更強大且高效的人工智慧系統。路透社報導了這一訊息，顯示科技公司在尋找新資料來源方面所付出的努力，這些資料是讓程式學習更有效執行任務及回應使用者查詢的關鍵。當 TechCrunch 聯絡 Meta 求取評論時，一位發言人表示，若公司要開發協助人們完成日常電腦任務的代理系統，模型需要真實的使用範例，例如滑鼠操作、點選按鈕及導覽下拉選單等。為此，Meta 將推出內部工具，在特定應用程式中捕捉這類輸入以協助訓練模型。發言人強調已實施保障措施保護敏感內容，且資料不會用於其他目的。此趨勢揭示了人工智慧產業中令人擔憂的隱私面向。上週另有報導指出，舊有的新創公司正被挖掘其企業通訊資料（如 Slack 檔案與 Jira 工單），並轉換為人工智慧訓練資料。
-
未經授權團體據稱取得Anthropic獨家網絡工具Mythos的存取權
有未經授權的使用者據報已獲取 Anthropic 近期推出的企業級 cybersecurity 工具 Mythos 的存取權。Bloomberg 報導指出，該工具透過第三方供應商環境被一個私人線上論壇成員取得，該論壇成員尚未公開身份。Anthropic 發言人對 TechCrunch 表示，公司正在調查此報告，並確認目前尚未發現未經授權的活動對 Anthropic 系統造成任何影響。該群組嘗試了多種策略，包括利用一位接受 Bloomberg 採訪的員工所享有的存取權，此人目前受僱於為 Anthropic 工作的第三方承包商。該群組成員屬於一個在 Discord 頻道中尋找未發布 AI 模型資訊的社群，自取得存取權後便開始定期使用 Mythos，並向 Bloomberg 提供了截圖及軟體的現場演示作為證據。據報導，該群組在工具公開宣佈的同一天取得存取權，並基於對 Anthropic 其他模型格式的瞭解，猜測出模型的線上位置。該群組表示他們對新模型感興趣，目的是玩弄而非破壞。Mythos 是作為 Project Glasswing 計畫的一部分，向包括 Apple 在內的部分選定供應商有限發布，旨在防止惡意行為者使用。Anthropic 警告稱，該工具若被濫用，可能成為攻擊企業安全的武器，而非增強安全防護。若發生未經授權使用，可能會對 Anthropic 造成麻煩，因為公司曾透過獨家發布來緩解對企業安全性的擔憂。