分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
薩姆·艾爾曼質疑Anthropic的網路模型Mythos，指其為「基於恐懼的行銷
OpenAI 執行長 Sam Altman 在近期播客節目中公開批評競爭對手 Anthropic 的新模型 Mythos，指其利用恐懼行銷手法，將產品描繪得比實際更強大。Anthropic 於月初宣佈推出 Mythos，僅向少數企業客戶開放，並聲稱因擔心網路犯罪者將其武器化，故不向公眾發布。Altman 認為這種說法是極具說服力的行銷策略，暗示將 AI 掌握在少數精英手中是合理的，並諷刺 Anthropic 宣稱擁有足以毀滅世界的武器，卻只賣百萬美元防護設施。文章指出，恐懼行銷並非 Anthropic 獨有，整個 AI 產業常運用嚇阻戰術與誇張言論來凸顯工具威力。關於 AI 可能導致世界終結的論調，不僅來自反科技活動家，也來自銷售技術的企業本身，Altman 亦在其中。
-
Clarifai 刪除 300 萬張 OkCupid 提供用來訓練人臉辨識 AI 的照片，報導指出
美國聯邦貿易委員會（FTC）調查顯示，人工智慧平臺 Clarifai 曾於 2014 年向 OkCupid 索取資料以訓練其面部識別人工智慧系統。根據法院檔案，Clarifai 創辦人兼執行長 Matthew Zeiler 曾致電 OkCupid 共同創辦人 Maxwell Krohn，表示希望收集大量資料。OkCupid 隨後提供了使用者上傳的照片，以及其他人種、地點等人口統計資料。然而，根據 OkCupid 自身的隱私政策，此類行為本應被禁止。 雖然該事件發生在 12 年前，但 FTC 直到 2019 年才展開調查，起因於《紐約時報》報導 Clarifai 使用 OkCupid 的圖片開發能估算年齡、性別和種族的人工智慧工具。最近，OkCupid 及其母公司 Match Group 與 FTC 達成和解。雖然兩家公司未承認欺騙使用者或違反隱私政策，但 Clarifai 確認已刪除相關資料，證實其確實獲取了這些照片。FTC 指控 Match Group 和 OkCupid 自 2014 年起故意隱瞞此行為並阻礙調查。 在和解協議中，由於這是首次違規，FTC 無法對公司開罰，但明確禁止 OkCupid 和 Match Group 永久誤導或協助他人誤導其資料收集與分享的性質。這兩家公司自此不得再參與類似行為，此類行為本就違反 FTC 規定。Clarifai 已刪除 300 萬張照片及相關訓練模型。
-
YouTube擴大其AI肖像識別技術至藝人
YouTube 於週二宣佈擴大其新的「相似性檢測」技術，該技術旨在識別由 AI 生成的內容，例如深度偽造（deepfakes），並將此功能擴充套件至娛樂產業。此技術運作方式類似於 YouTube 現有的 Content ID 系統，後者用於檢測使用者上傳影片中的版權保護材料，允許權利擁有人要求移除內容或分享影片收益。相似性檢測則針對模擬面孔執行相同功能，旨在保護創作者及其他公眾人物免受未經許可的身份使用，這對於發現其肖像被用於詐騙廣告的名人而言是一個常見問題。該技術去年先在小範圍的創作者測試中推出，今年春季進一步擴大至涵蓋政治人物、政府官員及記者。YouTube 表示，此技術將開放給娛樂產業內的人才經紀公司、管理公司及其代表的藝人使用，並獲得 CAA、UTA、WME 及 Untitled Management 等主流機構的支援。使用此工具無需藝人擁有自己的 YouTube 頻道，系統會掃描 AI 生成內容以檢測與註冊參與者面孔的視覺匹配。使用者可選擇要求移除違反隱私政策的影片、提交版權移除請求或不做任何操作。YouTube 指出，它不會移除所有內容，因為其規則允許諷刺和諷刺性內容。未來，該技術將支援聲音檢測。此外，YouTube 還在聯邦層面倡導類似保護，支援位於華盛頓特區的 NO FAKES 法案，該法案將規範使用 AI 建立未經授權的個人聲音和視覺形象重現。雖然 YouTube 尚未說明該工具目前管理了多少起 AI 深度偽造移除案例，但公司在三月時表示，目前的移除數量仍然「非常少」。
-
美國國防部 reportedly 被指使用的 AI 工具 Mythos 來自 Anthropic，儘管與五角大樓存在爭議
美國國家安全域性（NSA）據傳正在使用安提克（Anthropic）近期宣佈但尚未公開發行的模型 Mythos Preview。此訊息傳出數週後，國防部曾將安提克標記為「供應鏈風險」，原因是該公司拒絕讓五角大樓官員無限制接觸其模型的完整功能。安提克於本月早些時候宣佈 Mythos 為一款專為網路安全任務設計的邊界模型，但聲稱該模型過於強大，可能用於攻擊性網路攻擊，因此不適合公開發布。結果，安提克將 Mythos 的訪問許可權限制在約 40 個組織，其中僅公開了十個。NSA 似乎屬於未公開的接收者之一，據說主要用於掃描環境中的可利用漏洞。英國的 AI 安全研究所也確認其已獲得 Mythos 的訪問許可權。美國軍隊擴大使用安提克工具的同時，也在法庭上辯論這些工具可能威脅國家安全。五角大樓的爭議源於安提克拒絕讓 Claude 用於大規模國內監控和自主武器開發。NSA 獲得 Mythos 訪問許可權之際，安提克與川普政府的關係似乎正在緩和。上週五，安提克執行長達裡奧·阿莫迪（Dario Amodei）與白宮幕僚長蘇西·懷爾斯（Susie Wiles）及財政部長斯科特·貝森特（Scott Bessent）舉行會面，白宮稱此次會面富有成效。科技鉑金（TechCrunch）已聯絡 NSA 求取評論，但安提克拒絕評論。