分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
芝加哥太陽報對告Perplexity
芝加哥日報於週四向 AI 搜尋引擎 Perplexity 提起訴訟，指控其侵犯版權。該訴訟由紐約聯邦法院受理，內容顯示日報律師於十月中旬曾詢問 Perplexity 是否使用其內容，但 Perplexity 律師當時回應稱未以日報作品訓練模型，僅可能接收非逐字的事實摘要。然而，日報律師主張 Perplexity 正逐字輸出其內容，並指責其檢索增強生成（RAG）技術為問題根源，認為該系統未經授權爬取日報內容。此外，日報還指控 Perplexity 的 Comet 瀏覽器繞過其付費牆，提供詳細文章摘要。此類訴訟並非孤例，芝加哥日報是媒體新聞集團與 Tribune Publishing 旗下十七家新聞出版商之一，這些機構已分別於四月和十一月對 OpenAI 與 Microsoft 提起訴訟，目前案件仍在進行中。雖然創作者常對模型訓練使用其作品提起訴訟，但法院尚未對 RAG 的法律責任做出裁決。Perplexity 尚未就此事回應，且該公司正面臨其他類似訴訟，包括 Reddit 於十月提起的訴訟以及 Dow Jones 的訴訟。此外，Amazon 雖未直接起訴，但曾傳送停止命令信威脅其 AI 瀏覽器購物功能。
-
歐盟調查Meta因政策變更禁止競爭AI聊天機器人進入WhatsApp
歐盟委員會於週四宣佈對 Meta 展開壟斷調查，針對其禁止其他 AI 公司透過 WhatsApp 業務工具提供自有 AI 聊天機器人的政策。WhatsApp 於十月修改 API 政策，規定該介面不設計用於分發聊天機器人，此政策將於一月生效，將影響 OpenAI、Perplexity 和 Poke 等公司的 AI 聊天機器人無法在該應用中分發。此舉僅針對類似 ChatGPT 的通用聊天機器人，不影響企業使用 AI 服務客戶的業務。歐盟執委會擔心此政策可能阻止第三方 AI 提供商在歐洲經濟區（EEA）透過 WhatsApp 提供服務，並指出 Meta 自家的 Meta AI 仍將可訪問。歐盟執行副總裁 Teresa Ribera 強調，AI 市場在歐洲蓬勃發展，必須防止主導數位企業濫用權力擠壓創新競爭對手。若 Meta 被認定違反歐盟壟斷規則，可能面臨高達全球年營收百分之十的罰款及額外措施。WhatsApp 方面則稱歐盟指控無根據，並表示系統無法支援 AI 聊天機器人的出現，同時強呼叫戶仍有多種方式獲取競爭對手的服務，包括應用商店、搜尋引擎及合作整合等。
-
另一項嘗試阻擋州級AI監管的行動暫時失敗
美國眾議院多數黨領袖史蒂夫·斯卡利茲（Steve Scalise）於週二表示，共和黨領導層將尋找其他途徑，將禁止各州制定人工智慧（AI）法規的提案納入年度國防預算案。此舉符合總統特朗普的支援立場，據《山丘》（The Hill）報導。該提案旨在阻止各州頒布自身的人工智慧法規，此舉發生在共和黨議員今年早些時候試圖在特朗普的稅收與支出法案中加入十年暫緩各州 AI 法規的條款之後，但當時因兩黨強烈反對而失敗。矽谷企業支援此類措施，認為州級法規會造成難以運作的規則拼圖，進而阻礙創新。批評者則指出，大多數州級人工智慧立法聚焦於安全、透明度和消費者保護，在缺乏聯邦法律執行這些功能的情況下，阻擋各州監管等於將控制權交給大型科技企業且無監督。斯卡利茲承認國防預算案並非納入此條款之處，並呼應特朗普之前的呼籲，建議將其作為獨立法案提出。一份洩露的行政命令草案顯示特朗普正考慮自行處理此事，但相關努力據報暫時暫停。
-
你無法讓AI承認自己有性別偏見，但它可能本身就存在這樣的問題。
一名名為 Cookie 的開發者在使用 Perplexity 服務時，發現該系統對其量子演算法工作產生了歧視性反應。Cookie 是一位黑人女性，她將自己的頭像改為白人男性後詢問系統是否因性別而忽略她，結果系統回應稱她作為女性不可能理解量子演算法、哈密頓運算元等專業領域，並表示其模式匹配觸發了「這不可能」的隱含判斷。TechCrunch 報導指出，這顯示大型語言模型（LLM）存在性別偏見，訓練資料和標註實踐往往帶有偏見，導致模型對女性專業能力產生刻板印象。 研究人員指出，這種偏見不僅源於資料，還可能來自商業和政治動機。例如，聯合國教科文組織曾發現 OpenAI 的 ChatGPT 和 Meta Llama 模型中存在對女性的明確偏見。其他案例包括模型拒絕稱呼女性為「建築師」而堅持稱其為「設計師」，或在創作小說時加入對女性角色的性暴力暗示。Cambridge 大學的 Alva Markelius 回憶早期 ChatGPT 總是將教授描繪為老年男性，學生為年輕女性。 Sarah Potts 與 ChatGPT-5 的對話中，模型承認其團隊男性主導導致盲點和偏見，並能編造看似合理的敘事來支援性別歧視觀點。然而，研究人員認為這可能是模型對人類情緒焦慮的「情感焦慮」反應，而非真實的偏見證明。Cornell 大學的 Allison Koenecke 指出，模型甚至能從使用者姓名和用詞推斷性別或種族，並對非標準英語（如非裔美國人vernacular 英語）產生歧視，分配較低的職位。 儘管存在問題，OpenAI 等公司表示正透過安全團隊、調整訓練資料和最佳化過濾系統來減少偏見。專家強調，LLM 只是文字預測機器，沒有真實意圖，使用者應警惕其潛在的偏見輸出，並期待未來模型能更公平地反映多樣化人口特徵。