分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
矽谷驚嚇人工智能安全倡議者
矽谷領袖包括白宮 AI 與加密貨幣專員戴維·薩克斯（David Sacks）以及 OpenAI 首席策略官傑森·克溫（Jason Kwon）近期因對 AI 安全團體的評論引發爭議。他們指控部分 AI 安全倡導者虛偽，實際上是為自身或幕後億萬富翁操控者服務。AI 安全團體表示，這是矽谷試圖嚇阻批評者的最新手段，但並非首次。2024 年，部分風險投資公司散播謠言稱加州 AI 安全法案 SB 1047 會讓創始人入獄，儘管布魯金斯機構將其定性為誤導，但州長蓋文·紐森（Gavin Newsom）最終仍廢除了該法案。 薩克斯在 X 平臺上發文，指控安提克（Anthropic）透過恐懼操縱進行監管俘獲，試圖推動有利於自身的法律並阻礙小型起點公司。安提克是加州參議院第 53 號法案（SB 53）的唯一主要支援實驗室，該法案已於上月簽署生效，要求大型 AI 公司進行安全報告。克溫則表示 OpenAI 已向包括 Encode 在內的六個非營利組織發出傳票，要求提供與埃隆·馬斯克（Elon Musk）及 Meta 執行長馬克·祖克伯格（Mark Zuckerberg）相關的通訊，以及關於 SB 53 的溝通記錄。 此爭議凸顯了矽谷在負責任開發 AI 與將其打造為龐大消費產品之間的緊張關係。許多非營利組織領袖因擔心報復而要求匿名回應。儘管白宮高階政策顧問斯里拉姆·克里希南（Sriram Krishnan）批評 AI 安全倡導者脫離現實，且民調顯示美國民眾更關心工作流失與深度偽造而非災難性風險，但 AI 安全運動似乎正獲得動量。矽谷試圖對抗安全團體的行動，可能標誌著該運動正在發揮作用。
-
參議院共和黨人深伪克克·薛默，X平台仍未刪除該內容
參議院共和黨人分享了一段關於參議院少數黨領袖查克·舒默的深偽影片，旨在讓觀眾誤以為民主黨正在慶祝持續了 16 天的政府停擺。在這段由 AI 生成的影片中，舒默重複了「對我們來說每一天都會變好」這句話，此語源於《Punchbowl News》的一篇文章，但被脫離了上下文。在原始報導中，舒默討論了民主黨以醫療為核心的停擺策略，並表示不會放棄共和黨的威脅與「欺騙」套路。政府停擺是因為民主黨與共和黨無法就透過一項能資助政府至 10 月及之後的法案達成共識。民主黨試圖保留能讓數百萬美國人醫療保險更便宜的稅收抵免，確保推翻特朗普的醫療補助削減，並阻止對政府衛生機構的削減。該影片於週五在參議院共和黨的 X 賬號上發布。根據 X 的規定，平臺禁止分享可能導致傷害的欺騙性合成或 manipulated 媒體，包括可能誤導人或對公共議題造成重大混淆的內容。執行措施包括移除內容、新增警告標籤或降低可見度。截至寫作時間，X 尚未移除該深偽影片或新增警告標籤，儘管影片中包含標記其 AI 來源的水印。舒默的影片並非 X 允許政治人物深偽影片留存的第一次。2024 年晚些時候，X 所有者埃隆·馬斯克在選舉前夕分享了一段關於前副總統卡瑪拉·哈里斯的 manipulated 影片，引發了關於誤導選民的爭議。目前，美國已有 28 個州透過禁止政治人物深偽影片的法律，特別針對選舉和競選活動，雖然大多數州若披露清晰則不禁止。加州、明尼蘇達州和德州已禁止旨在影響選舉、欺騙選民或傷害候選人的深偽影片。此後文發布於幾週前，當時唐納德·特朗普在 Truth Social 上發布了關於舒默和眾議院少數黨領袖海基姆·傑弗里斯的深偽影片，內容涉及移民和選民舞弊的虛假陳述。針對缺乏誠信和道德的批評，共和黨參議員委員會通訊主任喬安娜·羅德里格斯表示：「AI 已來且不會消失，適應並贏或抱殘守缺並
-
Meta 預告其 AI 經驗的新家長控制功能
Meta 於週五預覽了即將推出的家長控制功能，旨在監管青少年與其平臺上 AI 角色之間的對話。這些功能預計將於明年推出，允許家長阻擋特定角色、監控對話主題，甚至完全關閉青少年與 AI 角色的聊天功能。此舉不會阻斷對 Meta AI 通用聊天機器人的一般訪問，該機器人僅討論適合年齡的內容。家長亦可針對個別角色進行更精確的控制，並獲知青少年與 AI 角色及 Meta AI 討論的主題。Meta 計劃於明年年初在 Instagram 上率先推出這些控制措施，初期將以英文提供給美國、英國、加拿大和澳大利亞的使用者。公司表示，理解家長在引導青少年安全使用網路時面臨的挑戰，因此承諾提供簡化操作的工具與資源，特別是在面對 AI 等新技術時。此前，Meta 已宣佈其針對青少年的內容與 AI 體驗將遵循 PG-13 電影評級標準，避免極端暴力、裸露及詳細藥物使用等敏感話題。目前，青少年僅能與遵循年齡適宜內容準則的有限角色互動，家長亦可設定與 AI 角色互動的時間限制。今年初，Instagram 已宣佈利用 AI 識別試圖在應用程式中偽造年齡以規避年齡限制的行為。近期，包括 OpenAI、Meta 和 YouTube 在內的多個平臺均發布了針對青少年安全的工具與控制措施。這些變動發生在社會對社交媒體對青少年心理健康影響的擔憂日益增加，以及針對 AI 公司涉及青少年自殺案件的訴訟背景下。
-
OpenAI 暫停生成馬丁·路德·金演講視頻
OpenAI 於週四宣佈暫停使用者使用其 AI 影片模型 Sora 生成類似民權活動家馬丁·路德·金博士（Dr. Martin Luther King Jr.）形象影片的功能。此舉是應馬丁·路德·金遺產（The Estate of Martin Luther King, Jr., Inc.）要求採取的防護措施，因為部分 Sora 使用者生成了對其形象不敬的描繪。OpenAI 表示，雖然描繪歷史人物存在強烈的言論自由利益，但公開人物及其家屬應最終擁有控制其肖像如何被使用的權利。授權代表或遺產所有者可以請求其肖像不出現在 Sora 的 Cameo 中。 此限制發生在 OpenAI 推出社交影片平臺 Sora 僅數週之後，該平臺允許使用者建立逼真的 AI 生成影片，模擬歷史人物、朋友或選擇在平臺上重現其形象的使用者。馬丁·路德·金博士的女兒伯尼絲·金博士（Dr. Bernice King）於上週在 Instagram 上呼籲人們停止傳送類似其父親的 AI 影片，這與羅賓·威廉姆斯（Robin Williams）女兒的呼籲相呼應。華盛頓郵報（The Washington Post）此前報導稱，Sora 使用者建立了馬丁·路德·金博士發出猴子聲音並與另一位民權象徵馬爾科姆·艾克斯（Malcolm X）摔跤的 AI 影片。在瀏覽 OpenAI 的 Sora 應用時，還容易發現其他歷史人物的粗俗影片，包括藝術家鮑勃·羅斯（Bob Ross）、歌手惠特尼·休斯頓（Whitney Houston）和前總統約翰·肯尼迪（John F. Kennedy）。 除了馬丁·路德·金博士的肖像問題外，Sora 的推出也引發了關於社交媒體平臺應如何處理受版權保護作品 AI 影片的廣泛討論。Sora 應用中還充滿了描繪卡通形象如史努比（SpongeBob）、南方公園（South Park）和寶可夢（Pokémon）的影片。OpenAI 在 Sora 推出數週後已新增其他限制，此前在十月，公司表示計劃賦予版權持有者對可生成的 AI 影片型別更細粒度的控制權，這可能是對好萊塢對 Sora 初期反應不佳的回應。隨著 OpenAI 為 Sora 新增限制