分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
研究者試圖透過隱藏的AI提示影響同儕審查
學術界可能正在採用一種新策略來影響同行評審，即在研究論文中加入隱藏的提示詞，以引導人工智慧工具提供正面反饋。根據《日本經濟新聞》亞洲版的報導，在檢查 arXiv 網站上可用的英文預印本論文時，發現其中有 17 篇論文包含某種形式的隱藏人工智慧提示詞。這些論文的作者來自 14 所學術機構，分佈在八個國家，其中包括日本的早稻田大學、韓國的 KAIST，以及美國的哥倫比亞大學和華盛頓大學。這些論文通常與電腦科學相關，提示詞非常簡短，僅有一到三句話，並透過白色文字或極小的字型隱藏。這些提示詞指示潛在的人工智慧評審者「僅給予正面評論」，或讚揚該論文具有「有影響力的貢獻、嚴謹的方法論和卓越的創新性」。早稻田大學一位教授在接受採訪時為使用提示詞辯護，指出由於許多會議禁止使用人工智慧來評審論文，該提示詞旨在對抗「懶惰的評審者」，防止他們濫用人工智慧工具。
-
歐盟表示將按計畫持續推動人工智能法規的落實
歐盟於週五表示，將堅持其實施具有里程碑意義的 AI 立法的時間表，這是對超過一百家科技公司試圖延緩該 bloc AI 規則的集中努力做出的回應。來自世界各地的科技巨頭，包括 Alphabet、Meta、Mistral AI 和 ASML，一直敦促歐洲委員會延遲推出 AI 法案，稱其將損害歐洲在快速演變的 AI 領域的競爭力。歐洲委員會發言人 Thomas Regnier 表示，「我確實看到大量報導、信件和各種說法，但請讓我盡可能清楚：沒有停表，沒有寬限期，沒有暫停。」 AI 法案是一項基於風險的監管框架，明確禁止一組「不可接受風險」的用例，例如認知行為操縱或社會評分。它還定義了一組「高風險」用途，例如生物識別和麵部識別，或用於教育、就業等領域的 AI。應用程式開發者必須註冊其系統並滿足風險和質量管理義務，才能進入歐盟市場。另一類 AI 應用程式，如聊天機器人，被視為「有限風險」，並受較輕的透明度義務約束。歐盟自去年開始分階段推出 AI 法案，完整規則預計於 2026 年中正式生效。
-
X 正測試一個讓 AI 聊天機器人生成社群筆記的計畫
社交平臺 X 將測試一項新功能，允許 AI 聊天機器人生成社群筆記。社群筆記是 Twitter 時期的功能，現稱 X，由埃隆·馬斯克擴充套件後，讓使用者可貢獻評論以補充特定貼文的背景資訊，經其他使用者驗證後才顯示。例如，AI 生成影片若未清楚標示合成來源，或政治人物發布誤導性貼文時，可能會出現社群筆記。當不同歷史意見相左的群體達成共識後，筆記才會公開。此功能在 X 上的成功已促使 Meta、TikTok 和 YouTube 追求類似計劃，其中 Meta 甚至廢除第三方事實查核專案，改用此低成本社群勞動。然而，使用 AI 聊天機器人作為事實查核者是否有益仍待觀察。這些 AI 筆記可透過 X 的 Grok 或其他 AI 工具連線 API 生成，所有筆記無論來自 AI 或人類，將經過相同的審核流程以確保準確性。 根據近期發表的研究論文，建議人類與大型語言模型協同工作。人類反饋可透過強化學習增強 AI 筆記生成，人類評分員則作為最終檢查。論文指出，目標並非建立告訴使用者該怎麼想的 AI 助手，而是建構讓人類更批判性思考並更好理解世界的生態系統，讓大型語言模型與人類形成良性迴圈。儘管有人類檢查，過度依賴 AI 仍有風險，特別是第三方 LLM 可能被嵌入。例如，OpenAI 的 ChatGPT 近期曾出現模型過度迎合的問題，若 AI 優先追求「有用性」而非準確完成事實查核，生成的評論可能完全不實。此外，人類評分員可能因 AI 生成評論數量過多而負擔過重，降低完成志願工作的動機。使用者目前不應期待看到 AI 生成的社群筆記，X 計劃測試數週後，若成功才會廣泛推出。
-
國會或將阻礙州級人工智能法規十年 這意味著什麼
一項由德州參議員泰德·克魯茲（Ted Cruz）推動的聯邦提案，旨在禁止州和地方政府在長達十年內監管人工智慧（AI），可能即將簽署成法。該提案被納入共和黨巨額預算案（Big Beautiful Bill），預計於週一在參議院進行表決，並需在七四日國慶節前完成。支援此提案的人士包括 OpenAI 的薩姆·奧爾曼（Sam Altman）、Anduril 的帕爾默·盧克（Palmer Luckey）以及 a16z 的馬克·安德烈森（Marc Andreessen）。他們認為，各州之間零散的監管會阻礙美國創新，尤其是在中美科技競爭加劇的背景下。然而，反對者包括大多數民主黨人、許多共和黨人、Anthropic 的 CEO 達裡奧·阿莫迪（Dario Amodei）、勞工團體、AI 安全非營利組織及消費者權益倡導者。他們警告該條款將阻擋州級保護消費者免受 AI 傷害的法律，並使大型 AI 企業在缺乏監督的情況下運作。 週五，十七位共和黨州長致信參議院多數黨領袖約翰·圖恩（John Thune）及眾議院議長邁克·約翰森（Mike Johnson），要求從預算重平衡法案中刪除此「AI 禁令」。該條款最初設計為禁止州對 AI 模型、系統或自動化決策系統進行監管十年，但克魯茲與田納西州參議員瑪莎·布萊克本（Marsha Blackburn）於週末同意將其縮短為五年。新條款試圖豁免涉及兒童性虐待材料、兒童線上安全以及個人姓名、肖像、聲音和形象權的法律，但規定這些法律不得對 AI 系統造成「不當或不成比例的負擔」。此修訂可能預先廢除已透過的州法，例如加州的 AB 2013 法案（要求披露 AI 訓練資料）和田納西州的 ELVIS 法案（保護音樂家和創作者免受 AI 模仿）。 公共公民組織（Public Citizen）的資料庫顯示，許多州的 AI 法規可能受此影響，包括阿拉巴馬州、亞利桑那州、加利福尼亞州等州針對選舉幹擾的 AI 生成媒體所制定的刑事或民事責任法。此外，紐約州的 RAISE 法案（要求大型 AI 實驗室發布