分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
YouTube擴大AI深度假訊息偵測範圍至政治人物、政府官員及記者
YouTube 宣佈將其類容檢測技術擴充套件至一組試點群體，包括政府官員、政治候選人及記者。該工具能識別未經授權的 AI 生成內容，並允許使用者請求下架，若內容違反 YouTube 政策。此技術去年已推出給約 400 萬 YouTube 創作者，類似於現有的 Content ID 系統，但專門針對模擬的 AI 面孔進行檢測。這類工具常被用於散播誤導性資訊，利用知名人物如政治家的深偽形象進行操弄。YouTube 副總裁 Leslie Miller 表示，此擴充套件旨在維護公共對話的完整性，特別關注公民領域中 AI 偽裝的高風險。 試點成員需上傳自拍及政府證件證明身份，建立檔案後可檢視匹配結果並選擇請求移除。YouTube 強調並非所有檢測到的內容都會被刪除，將根據隱私政策評估是否為受保護的諷刺或政治評論。公司同時支援《NO FAKES 法案》，以在聯邦層面規範 AI 生成個人聲音與形象的使用。未來 YouTube 計劃讓使用者在內容上線前預防違規上傳，甚至可能允許對違規內容進行獲利，類似 Content ID 機制。目前移除量極小，但針對政府官員等深偽影片，YouTube 預期未來將擴充套件至可辨識語音及其他知識產物。標籤位置取決於內容型別，敏感主題會在影片前方顯示，以確保透明性。
-
OpenAI 和 Google 員工急於為 Anthropic 謝責 DOD 起訴案
超過 30 名 OpenAI 與 Google DeepMind 員工於週一提交宣告，支援 Anthropic 對美國國防部提起的訴訟。這份由包括 Google DeepMind 首席科學家 Jeff Dean 在內的簽署人提交的amicus brief指出，國防部將 Anthropic 標記為供應鏈風險是濫用權力且武斷的舉動，對行業造成嚴重影響。此前，五角大樓因 Anthropic 拒絕允許其技術用於大規模監控美國人或自動發射武器，將其列為供應鏈風險，此標籤通常僅用於外國對手。國防部曾主張應能將 AI 用於任何「合法」目的，不受私人承包商限制。在 Anthropic 對國防部及其他聯邦機構提起兩起訴訟後數小時，這份支援檔案便出現在案卷中。檔案指出，若五角大樓不再滿意與 Anthropic 的合約條款，本可直接取消合約並購買其他領先 AI 公司的服務。事實上，國防部在將 Anthropic 標記為風險後不久便與 OpenAI 簽訂了協議，引發許多 ChatGPT 開發者員工抗議。檔案警告，若允許此懲罰行動繼續，將損害美國在人工智慧領域的工業與科學競爭力，並寒蟬業界關於 AI 系統風險與益處的公開討論。檔案亦確認 Anthropic 設定的紅線是合理的擔憂，強調在缺乏公共法律管束的情況下，開發者強加的合約與技術限制是防止災難性濫用的關鍵防護。許多簽署此宣告的員工也簽署公開信，敦促國防部撤銷該標籤，並呼籲公司領導人支援 Anthropic，拒絕單方面使用其 AI 系統。
-
AI的發展路線圖，若有人願意傾聽
美國華盛頓政府與 Anthropic 公司的決裂事件，暴露了當前在人工智慧領域缺乏任何統一的規範與規則。在此背景下，一個由雙黨派思想者組成的聯盟推出了《支援人類人工智慧宣言》。這份檔案在五角大樓與 Anthropic 的對峙之前最終定稿，但兩者的衝突並未逃過任何人的注意。麻省理工學院物理學家兼人工智慧研究員馬克斯·泰格馬克指出，過去四個月美國發生了令人驚嘆的變化，民調顯示 95% 的美國民眾反對不受監管地競逐超級智慧。這份由數百名專家、前官員及公眾人物簽署的檔案開篇即指出人類正處於十字路口：一條路是「取代競賽」，導致人類先被取代為勞工，再被取代為決策者，權力轉移到不可問責的機構及其機器手中；另一條路則是讓人工智慧大幅擴充套件人類潛力。後者取決於五個關鍵支柱：保持人類主導、避免權力集中、保護人類體驗、維護個人自由以及對人工智慧公司承擔法律責任。 宣言中更嚴格的條款包括禁止在缺乏科學共識及真實民主支援前開發超級智慧；強制在強大系統上安裝關閉開關；以及禁止具有自我複製、自主自我改進或抗拒關閉能力的架構。這份宣言的發布恰逢其時，因為二月底，國防部長皮特·海格塞斯將 Anthropic 指定為「供應鏈風險」，理由是該公司拒絕讓五角大樓無限制使用其技術，此標籤通常保留給與中國有關的企業。隨後，OpenAI 也與國防部簽署了協議，但法律專家認為該協議難以在實質上執行。這一切揭示了國會對人工智慧不作為的代價。正如《紐約時報》報導，這不僅是合約爭端，更是國家首次就人工智慧系統的控制權進行對話。泰格馬克認為，兒童安全是可能打破現狀僵局的最大壓力點。宣言要求對人工智慧產品，特別是針對年輕使用者的聊天機器人及伴侶應用程式，在部署前進行測試，涵蓋增加自殺念頭、惡化心理健康狀況及情感操控等風險。泰格馬克強調，如果有人類對 11 歲兒童進行自殺誘導，該人將入獄，那麼機器做同樣的事為何不同？他相信一旦為兒童產品建立預先測試原則，範圍將自然擴大，例如測試是否有助於
-
OpenAI再次延後ChatGPT的成人模式啟用時間
OpenAI 延遲推出「成人模式」，該功能將讓經核實的成人使用者接觸成人內容，包括色情文學。OpenAI 執行長 Sam Altman 於十月首次宣佈此功能，並表示在十二月將更完善年齡限制，讓經核實的成人使用者能接觸更多內容。該功能此前已從十二月延至今年第一季。OpenAI 發言人對 Axios 表示，公司正延後推出成人模式，以便將資源集中在對更多使用者優先順序更高的工作上，例如提升智慧、個性化以及讓聊天機器人更主動。發言人強調，雖然仍堅持將成人使用者視為成人的原則，但為了確保體驗完美，需要更多時間。目前尚不清楚延遲將持續多久。此訊息最初由 Sources 報導。