分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
義大利要求Meta暫停其禁止競爭AI對話機器人進入WhatsApp的政策
義大利競爭管理局（AGCM）於週三下令 Meta 暫停其禁止企業利用 WhatsApp 業務工具提供自有 AI 聊天機器人的政策。AGCM 在持續調查中發現，Meta 利用其在市場上的主導地位，將 Meta AI 聊天機器人引入 WhatsApp，構成濫用市場地位。該局認為，Meta 的行為可能限制 AI 聊天機器人服務市場的生產、市場進入或技術發展，對消費者造成損害，並可能對受影響市場的競爭造成嚴重且不可挽回的傷害，削弱市場的可競爭性。 此次調查範圍於今年 11 月擴大，起因是 Meta 於 10 月更改業務 API 政策，禁止透過 API 在聊天應用程式中提供通用聊天機器人。該政策將於今年 1 月生效，將影響 OpenAI、Perplexity 和 Poke 等公司的 AI 聊天機器人透過應用程式的可用性。此政策不影響企業使用 AI 服務客戶的業務，例如零售業使用 AI 驅動的客戶服務機器人，僅禁止 ChatGPT 或 Claude 等 AI 聊天機器人透過 API 分發。歐盟委員會本月也啟動了對新政策的調查，擔心其可能阻止第三方 AI 提供商在歐洲經濟區（EEA）透過 WhatsApp 提供服務。 Meta 對當局的決定表示「根本性有缺陷」，辯稱 WhatsApp 業務 API 並非 AI 公司的市場進入途徑，並指出其系統無法支援由此產生的 AI 聊天機器人帶來的壓力。Meta 認為 AI 公司的市場進入途徑應為應用程式商店、網站及產業合作夥伴關係，而非 WhatsApp 業務平臺。Meta 表示將提出上訴。
-
約翰·卡瑞羅及其他作者對六家主要AI公司提出新訴訟
一群作家，包括前 Theranos 吹哨人及《Bad Blood》作者 John Carreyrou，正對 Anthropic、Google、OpenAI、Meta、xAI 及 Perplexity 等公司提起訴訟，指控這些公司訓練其模型時使用了盜版的書籍副本。此前，另一組作者已對 Anthropic 提起集體訴訟，法官裁定雖然 AI 公司使用盜版書籍進行訓練在法律上被允許，但盜取書籍本身是違法行為。在該案中，合資格作家可從一五億美元的和解金中獲得約三千元，但部分作者對此解決方案表示不滿，認為其未能讓 AI 公司為盜用書籍訓練模型所產生的數十億美元營收負責。新訴訟中，原告指出，現行的 Anthropic 和解方案似乎主要服務於 AI 公司而非創作者。訴訟檔案強調，大型語言模型公司不應輕易以低廉價格消滅成千上萬的高價值索賠，並應承擔其大規模故意侵權的真正成本。
-
OpenAI 表示 AI 瀏覽器可能始終容易受到提示注入攻擊
OpenAI 在強化其 Atlas AI 瀏覽器以抵禦網路攻擊的同時，承認提示注入（prompt injection）這種攻擊手法難以徹底根除。這種攻擊能透過網頁或郵件隱藏惡意指令，誘導 AI 代理人執行不當操作。OpenAI 於週一發表部落格文章指出，類似網路詐騙與社會工程學的提示注入，不太可能完全解決，並承認 ChatGPT Atlas 的「代理人模式」擴大了安全威脅面。該瀏覽器於十月推出後，安全研究者迅速發現僅需幾個字即可改變瀏覽器行為，Perplexity 等競爭對手也指出間接提示注入是系統性挑戰。英國國家網路安全中心亦警告，針對生成式 AI 的提示注入攻擊可能無法完全緩解，建議降低風險而非試圖完全阻擋。 OpenAI 將此視為長期挑戰，採取主動快速回應迴圈，利用內部紅隊發現新攻擊策略。其獨特解法為訓練基於大型語言模型的自動化攻擊者，透過強化學習模擬駭客行為，在模擬環境中測試並最佳化攻擊，以比真實攻擊者更快發現 AI 內部推理漏洞。演示中，自動化攻擊者成功將惡意郵件置入收件箱，使 AI 代理人傳送辭職訊息而非休假回覆，但更新後的安全機制能成功偵測並標記此嘗試。OpenAI 強調依賴大規模測試與快速修復週期來加固系統，並建議使用者限制代理人許可權、提供具體指令而非開放完整存取，以及要求確認請求。 安全研究員 Rami McCarthy 指出，風險取決於自主權與存取權的乘積，代理人瀏覽器處於高風險區域。他質疑其投資回報率，認為對於大多數日常用途，其高風險（如存取敏感郵件與支付資訊）尚未帶來足夠價值。儘管 OpenAI 視保護使用者為首要任務，但業界對高風險代理瀏覽器的實用性仍存懷疑，認為權衡取捨在當前仍非常真實。
-
紐約州長Kathy Hochul簽署RAISE法案規範AI安全
紐約州州長凱西·霍楚爾已簽署 RAISE 法案，使紐約成為美國第二個透過重大人工智慧安全立法的州。該法案由州立法機關於六月透過，但在科技產業遊說下，霍楚爾曾提出縮小法案規模的修訂建議。最終，霍楚爾同意簽署原始法案，而立法者則同意將她要求的修訂延至明年實施。法案規定大型人工智慧開發商必須公佈其安全協議資訊，並在七十二小時內向州政府報告安全事件。同時，法案將在財務服務部內設立新辦公室以監控人工智慧發展。若公司未提交安全報告或作出虛假陳述，最高可處罰一百萬美元，後續違規罰款將增至三百萬美元。加州州長蓋文·紐森於九月簽署了類似的法案，霍楚爾在宣佈時引用了該法案。紐約州參議員安德魯·古納德茲表示，大科技企業試圖阻撓該法案，但他們已關閉了這些企圖並透過了全國最強大的人工智慧安全法。OpenAI 和 Anthropic 均表達支援紐約法案的立場，同時呼籲聯邦立法。Anthropic 外部事務主管莎拉·赫克告訴紐約時報，兩個最大州透過人工智慧透明化立法，顯示了安全的重要性，應激勵國會加以擴充。然而，並非所有科技產業人士都持支援態度。由 Andreessen Horowitz 和 OpenAI 總裁格雷格·布羅克曼支援的超級政治行動委員會正準備挑戰與古納德茲共同提案的眾議員亞歷克斯·博雷斯。這發生在總統唐納德·特朗普簽署行政命令之後，該命令指示聯邦機構挑戰州級人工智慧法律。此命令由特朗普的人工智慧專員戴維·薩克斯支援，是特朗普政府試圖限制州級監管能力的最新嘗試，預計將面臨法院挑戰。