分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
OpenAI 放棄另一項側邊計畫：ChatGPT 的情色模式
OpenAI 暫時擱置了開發 ChatGPT 成人模式的計劃，該功能由執行長 Sam Altman 於十月提出，但引發了技術監管團體及內部員工的強烈反彈。有顧問曾警告該專案可能演變成「性感自殺教練」，導致發布多次延遲，目前已無明確時間表。此舉並非孤例，過去一週內 OpenAI 還優先處理了 Instant Checkout 購買功能及 Sora 影片生成器，後者因引發大量低質 AI 內容而受批評。這些調整發生在《華爾街日報》報導 OpenAI 進行重大戰略轉型後，旨在專注於企業使用者與程式設計師。分析認為，OpenAI 可能感受到競爭對手 Anthropic 在程式設計與商業工具上的壓力，且兩家公司在五角大樓合約上存在爭端，OpenAI 近期已與國防部達成兩億美元協議，而 Anthropic 則陷入法律糾紛。整體而言，AI 發展趨勢似乎正從色情與迷因轉向商業應用與軍事領域。
-
桑德斯與亞倫·奧康奈爾提出禁止資料中心建設的提案
美國新資料中心專案的激增引發了對支撐人工智慧基礎設施的反對聲浪。佛蒙特州參議員伯尼·桑德斯與紐約州眾議員亞歷山德里亞·奧卡西奧 - 柯爾茲今日提出配套法案，禁止任何峰值電力負載超過 20 兆瓦的新資料中心，並要求國會透過全面的人工智慧法規前暫停相關專案。桑德斯的辦公室引用了多位科技領袖的擔憂，包括埃隆·馬斯克（他曾表示「人工智慧比核武器更危險，為何我們沒有任何監管？」）、Google DeepMind 執行長戴米斯·哈薩比斯、Anthropic 執行長達裡奧·阿莫迪、OpenAI 執行長山姆·阿爾曼以及諾貝爾獎得主傑弗裡·辛頓。三月一項皮尤研究中心的民調顯示，多數美國人對人工智慧的擔憂超過興奮，僅有 10% 的受訪者表示興奮大於擔憂。然而，人工智慧公司的龐大政治支出以及擔心在與中國的技術競賽中落後，可能使該法案難以透過。此法案可能成為界定人工智慧監管框架的開端。兩位立法者希望美國政府審查並認證模型在發布前的合規性，實施防止人工智慧驅動的失業保護措施，限制資料基礎設施的環境影響，並要求建設時使用工會勞工。他們還尋求禁止向沒有類似規則的國家出口先進晶片，目前這涵蓋了絕大多數國家。
-
Reddit 引入新機制要求用戶進行人機驗證以辨識機器人行為
Reddit 宣佈將自行應對日益嚴重的機器人侵擾問題，此前競爭對手 Digg 因無法處理機器人攻擊而關閉。Reddit 表示將開始標記為使用者提供服務的自動化帳號，類似於 X 平臺對「好機器人」的標記方式，並要求疑似機器人的帳號進行真人驗證。此驗證並非全站強制，僅針對活動異常或技術標記顯示非人類的帳號。若帳號無法透過測試，可能會受到限制。Reddit 使用專門工具分析帳號級訊號，如發文速度等。使用 AI 撰寫內容不違反政策，但社群管理員可自訂規則。驗證真人身份將利用第三方工具，如 Apple、Google、YubiKey 的 passkeys，或 Face ID 等生物識別服務，甚至包括 Sam Altman 的 World ID。在英國、澳大利亞及美國部分州，因當地法規可能需使用政府身份證明檔案進行年齡驗證，但 Reddit 不認為這是首選方法。Reddit 共同創辦人兼執行長 Steve Huffman 強調，驗證將以隱私為先，目標是確認帳號背後有人而非特定身份，以平衡透明度與匿名性。此舉旨在應對機器人影響政治、散播誤導資訊、虛增人氣、秘密行銷、生成虛假廣告點選等問題。根據 Cloudflare 資料，若包含網頁爬蟲和 AI 代理，機器人流量預計在 2027 年將超過人類流量。Reddit 內容因與 AI 模型供應商有 lucrative 合約而被用於訓練，因此有疑慮機器人會發布問題以生成更多訓練資料。共同創辦人 Alexis Ohanian 也提及「死網理論」，即機器人數量超過人類，該理論在 AI 代理時代正變為現實。Reddit 去年已宣佈將實施真人驗證以應對機器人增長及法規要求，但現在認為當前方案非最佳。Huffman 指出，長期最佳解決方案應是去中心化、個別化、私密且理想情況下無需身份證明。此外，Reddit 表示將繼續移除機器人與垃圾訊息，平均每天移除 100,000 個帳號，並依賴使用者報告，同時將推出改進工具。開發者可透過 r/redditdev 社群瞭解如何為「好機器人」新增新的 APP 標籤。
-
Spotify測試新工具防止AI生成內容被歸屬真實藝人
Spotify 正在進行一項名為「藝術家檔案保護」的新功能測試，旨在讓音樂藝術家在作品正式上線前能審查並決定是否發布。此舉是為了應對 AI 生成內容充斥音樂串流平臺所帶來的問題，防止歌曲錯誤地出現在藝術家名下。Spotify 表示，隨著容易製作的 AI 音樂興起，音樂出現在錯誤藝術家頁面的情況日益嚴重，因此將保護藝術家身份列為 2026 年的首要任務。在測試期間，藝術家可以審視並批准或拒絕交付給 Spotify 的發布內容，只有獲批准的歌曲才會出現在其藝術家檔案、統計資料及使用者推薦中。此舉發生在索尼音樂（Sony Music）請求移除超過 135,000 首假冒其藝人的 AI 生成歌曲之後。Spotify 指出，雖然開放分發讓獨立藝術家更容易發布音樂，但也增加了後設資料錯誤、同名藝術家混淆或惡意附帶音樂等風險，這會影響藝人的目錄、統計資料及粉絲發現音樂的方式。該功能並非適用於所有藝術家，而是針對經歷過重複錯誤發布、擁有常見藝名或希望更多控制權的藝術家。參與測試的藝術家可在「Spotify for Artists」設定中啟用此功能，收到通知後即可對附帶其名稱的音樂進行批准或拒絕。