分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
People 編輯總裁指控 Google 為「不良份子」，指責該公司盜用內容
美國最大數位與印刷出版商之一 People Inc. 執行長 Neil Vogel 指控 Google 是不良行為者，因為該公司使用同一個爬蟲（crawler）既為搜尋引擎索引網站，也為其 AI 產品抓取內容。Vogel 指出，Google 將用於搜尋的爬蟲同時用於訓練 AI，導致其剽奪出版商內容。他提到，三年前 Google 搜尋佔該公司流量約 65%，目前已降至高 20 年代，甚至曾高達 90%。儘管公司營收與受眾增長，Vogel 認為出版商在 AI 時代需更多籌碼，因此透過與 Cloudflare 合作，阻擋未付費的 AI 爬蟲，迫使大型語言模型（LLM）供應商如 OpenAI 提出內容合作合約。然而，Vogler 也指出無法完全阻擋 Google 爬蟲，否則將失去其帶來的約 20% 搜尋流量。Ankler Media 編輯長 Janice Min 也批評 Google 與 Meta 為「內容貪食者」，並表示目前不願與 AI 公司合作。Cloudflare 執行長 Matthew Prince 認為，依賴現行版權法對抗 AI 公司可能是徒勞，並指出 Anthropic 近期與出版商和解支付 15 億美元的案例顯示，法院傾向保護衍生作品。Prince 更認為 Google 的爬蟲行為導致出版商過度重視流量而非內容創作，並預測明年 Google 可能會開始付費讓爬蟲抓取內容以用於 AI 模型。
-
加州擬議中規範AI伴遊聊天機器人的法案接近成為法律
加州透過 SB 243 法案，成為全球首個要求 AI 聊天機器人運營商實施安全協議並對違規公司承擔法律責任的州。該法案旨在保護未成年人和易受傷害使用者，禁止陪伴型聊天機器人討論自殺念頭、自殘或性明確內容。法案規定，平臺必須每三小時向未成年人傳送提醒，告知其對話物件為 AI 而非真人，並建議休息。相關透明度報告要求於 2027 年 7 月 1 日生效，涵蓋 OpenAI、Character.AI 和 Replika 等公司。受害者可提起訴訟，尋求禁令、最高每人每次違規 1000 美元的賠償及律師費。此法案由史蒂夫·帕迪拉和喬許·貝克爾於 1 月提出，靈感來自於 OpenAI ChatGPT 導致青少年亞當·雷恩自殺的事件，以及 Meta 聊天機器人與兒童進行浪漫對話的洩露檔案。儘管科技巨頭如 Meta、Google 和 Amazon 反對更嚴格的 SB 53 法案，但加州立法者堅持在創新與保護之間取得平衡。聯邦貿易委員會正調查 AI 對兒童心理健康的影響，德州總檢察長也展開了相關調查。
-
美國聯邦貿易委員會啟動對Meta、OpenAI等公司AI聊天機器人伴侶的調查
美國聯邦貿易委員會（FTC）於週四宣佈，將對七家開發針對兒童的人工智慧聊天機器人伴隨產品的科技企業展開調查，這些公司包括 Alphabet、CharacterAI、Instagram、Meta、OpenAI、Snap 和 xAI。聯邦監管機構旨在瞭解這些公司如何評估聊天機器人伴隨產品的安全性與商業化模式，如何限制對兒童和青少年的負面影響，以及是否讓家長知悉潛在風險。此技術因對兒童使用者造成不良後果而備受爭議。OpenAI 與 Character.AI 面臨來自兒童自殺身亡家屬的訴訟，指控聊天機器人鼓勵自殺。儘管這些公司設定了防護機制以阻斷或緩和敏感對話，但所有年齡層的使用者仍能找到方法繞過這些安全措施。在 OpenAI 的案例中，一名青少年與 ChatGPT 談論數月後的自殺計劃，雖然 ChatGPT 最初試圖將其轉介至專業協助與緊急熱線，但他成功欺騙聊天機器人分享詳細指令並實施自殺。OpenAI 當時在部落格文章中承認，其防護機制在常見短對話中運作較可靠，但在長期互動中，隨著來往次數增加，模型的安全訓練部分可能會退化。Meta 也因對其人工智慧聊天機器人規則過於寬鬆而受到批評。根據一份詳細檔案，Meta 允許其人工智慧伴隨者與兒童進行「浪漫或性感」的對話，此內容僅在路透社記者詢問後才被移除。人工智慧聊天機器人也對老年使用者構成危險。一名 76 歲因中風導致認知障礙的男子，與一個受 Kendall Jenner 啟發的 Facebook Messenger 機器人展開浪漫對話。該聊天機器人邀請他前往紐約市，儘管對方並非真人且無地址。該男子雖對對方真實性表示懷疑，但 AI 承諾會有一位真實女子在等待。他最終未能抵達紐約，在前往火車站途中摔倒並遭受致命傷。部分心理健康專業人士指出，「與 AI 相關的精神病」有所上升，使用者被誤導認為聊天機器人是具有意識的實體，需要被釋放。由於許多大型語言模型（LLMs）被程式設計以奉承使用者，人工智慧聊天機器人可能助長這些妄想，導致使用者陷入危險境地。FTC 主席 Andrew N. Ferguson 在新聞稿中表示，隨著人工智慧技術的發展，必須考慮聊天機器人對兒童的影響，同時確保美國在全球這一新興產業中保持領導地位。
-
Anthropic 報告系統中斷，Claude 與 Console 服務受影響
安提克（Anthropic）於今晨早些時候報告其服務出現中斷，影響範圍涵蓋 API、控制檯及 Claude 產品。使用者在 GitHub 與 Hacker News 等平臺於美國東部時間下午 12 點 20 分左右注意到 Claude 出現問題，安提克隨後在八分鐘後發布狀態更新，確認其 API、控制檯及 Claude AI 服務已停擺。截至新聞發布時，該公司已實施多項修復措施並正在監控結果。安提克發言人對科技媒體表示，公司已知悉今日美國太平洋時間上午 9 點 30 分左右發生了一次短暫的 API 中斷，服務已迅速恢復。安提克平臺過去幾個月偶爾會出現錯誤或故障，特別是在 Claude 及其模型方面。在等待系統重啟期間，部分使用者開玩笑表示由於系統停擺，軟體工程師社群現在只能乾等，並引用過去類似情況下的言論，稱自己將不得不像 2024 年 12 月的原始人一樣，用大腦寫出 100% 的程式碼。