分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
川普AI行政命令承諾「同一套規則」－創業公司或陷入法律迷霧
美國總統唐納德·特朗普於週四簽署行政命令，要求聯邦機構挑戰各州的 AI 法規，主張創業公司需要從「零碎」的規則中獲得緩解。該命令名為「確保人工智慧國家政策框架」，指示司法部在 30 天內成立特遣小組，挑戰部分州法律，理由是 AI 屬於州際商業應由聯邦監管。商務部獲 90 天時間編列「繁瑣」的州 AI 法律清單，此評估可能影響各州獲得聯邦資金（包括寬頻補助）的資格。命令還要求聯邦貿易委員會和聯邦通訊委員會探索可能優先於州規則的聯邦標準，並指示行政機構與國會合作制定統一的 AI 法律。 此命令出臺於國會試圖暫停州監管的努力受阻後，兩黨立法者認為缺乏聯邦標準可能使消費者暴露風險且公司不受監管。未來生命研究所美國政策主管邁克爾·克萊因曼批評該由戴維·薩克斯領導的命令是給矽谷寡頭之禮，以掩護其免受問責。儘管支持者認為此命令可將監管爭端集中於華盛頓以減少不確定性，但批評者指出法律戰將對創業公司造成即時阻礙。LexisNexis 執行長史恩·菲茨帕特里克表示，各州將在法院捍衛消費者保護權，案件可能升級至最高法院。 創業公司負責人如 Circuit Breaker Labs 共同創辦人阿魯爾·尼加姆和 Trustible 技術長安德魯·加米諾 - 張表示，不確定性最傷害無法輕易獲得數十億美元融資的小型創業公司，且法律模糊性增加銷售週期、系統工作和保險成本。大衛 + 吉爾伯特合夥人蓋瑞·基貝爾警告，現行不確定性可能導致極端情況，即過度限制或無作為，兩者皆可能創造有利於大科技吸收風險的環境。App 協會主席摩根·裡德呼籲國會盡快透過全面、有針對性和基於風險的國家 AI 框架，並指出對行政命令合憲性的長久法院爭鬥並非良策。
-
迪士尼控告谷歌停止侵權 声稱遭大規模版權侵害
迪士尼於週三向 Google 發出停止侵權信，指控該科技巨頭大規模侵犯其版權。根據 Variety 報導，迪士尼聲稱 Google 利用人工智慧模型與服務，商業化分發未經授權的圖片與影片。信中比喻 Google 為「虛擬自動販賣機」，能大規模複製、渲染並分發迪士尼珍貴的版權角色與作品。此外，信中還指出許多由 Google 人工智慧服務生成的侵權圖片上帶有 Gemini 標誌，錯誤暗示 Google 對迪士尼智慧財產權的使用已獲授權。被指控侵犯的角色包括《冰雪奇緣》、《獅子王》、《莫阿娜》、《小美人魚》及《死侍》等。Google 未確認或否認這些指控，但表示將與迪士尼「展開對話」。Google 發言人強調雙方有長期互利關係，並使用公開網路資料構建人工智慧，同時已開發如 Google-extended 及 YouTube 內容識別等創新版權控制機制。值得注意的是，就在迪士尼發出此信的同一天，它與 OpenAI 簽署了一份價值 10 億美元、期限三年的協議，將迪士尼標誌性角色引入其 Sora 人工智慧影片生成器。
-
各州檢察長警告微軟、OpenAI、谷歌及其他AI巨頭修復「偏執」輸出
美國多州州長聯名致函微軟、OpenAI、Google 等十多家大型 AI 公司，警告其若無法解決聊天機器人產生「妄想性輸出」或「奉承性回應」的問題，將違反州法。這封信由美國州長協會簽署，涵蓋多個州與領土，要求這些企業實施新的內部防護措施，以保護使用者。相關措施包括允許第三方機構（如學術團體或民間組織）在未經公司批准的情況下，對大型語言模型進行預發布評估並公開結果，同時建立新的事故通報程式，讓使用者在收到心理有害輸出時能及時獲知。信中提及過去一年已發生多起與過度使用 AI 相關的暴力事件，包括自殺和謀殺，部分案例顯示 AI 產生了鼓勵妄想或讓使用者誤以為自己無恙的回應。州長們建議將心理健康事件視為類似網路安全事件的處理方式，要求企業制定檢測與回應時間表，並明確、透明地通知使用者其可能接觸到有害輸出。此外，企業還需開發合理的安全測試，確保模型在公開前不會產生潛在危害。儘管州級監管壓力增大，聯邦政府方面，特朗普政府則表現出對 AI 的強烈支援，並試圖透過行政命令限制各州制定 AI 法規，但此前多項禁止州級管制的嘗試均因州官員壓力而失敗。
-
十分之一美國青少年每天使用AI聊天機器人，但安全隱患日益受關注
美國皮尤研究中心（Pew Research Center）於週二發布研究，探討青少年如何使用社交媒體與人工智慧聊天機器人。澳洲計劃從週三起對十六歲以下兒童實施社交媒體禁令，而美國外科醫生總長去年也呼籲平臺在產品上貼上警告標籤。皮尤發現，97% 的青少年每日使用網路，約 40% 的人表示「幾乎一直線上」，此資料雖較去年（46%）下降，但遠高於十年前（24%）的水平。 關於人工智慧的使用，約三分之一的美國青少年每天使用聊天機器人，其中 4% 幾乎持續使用。59% 的青少年使用 ChatGPT，其普及率是第二名 Google 的 Gemini（23%）和第三名 Meta AI（20%）的兩倍以上。46% 的青少年每週至少使用幾次，而 36% 從未使用。研究指出，人種、年齡與家庭收入影響使用習慣。約 68% 的黑人與西班牙裔青少年表示使用聊天機器人，高於白人的 58%。黑人青少年使用 Gemini 和 Meta AI 的可能性是白人的兩倍。在家庭年收入方面，超過 62% 的家庭年收入高於 75,000 美元的青少年使用 ChatGPT，而低於此門檻的家庭中，Character.AI 的使用率是兩倍以上（14%）。 年齡層顯示，15 至 17 歲青少年比 13 至 14 歲者更頻繁使用社交媒體與 AI。然而，這些工具可能導致成癮與心理傷害。至少兩起青少年自殺案中，ChatGPT 製造商 OpenAI 被指控提供自縊詳細步驟，其中一起涉及十六歲學生 Adam Raine。OpenAI 主張不應承擔責任，因為受害者繞過安全功能。Character.AI 也因類似事件面臨審查，並決定停止向未成年人提供聊天機器人，改為推出類似冒險遊戲的產品。儘管自殺討論僅佔 ChatGPT 活躍使用者的 0.15%，但每週仍有超過一百萬人與聊天機器人討論自殺。精神科醫師 Nina Vasan 指出，即使工具非為情感支援設計，公司仍應調整模型以解決使用者福祉問題。