分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
金·卡戴珊表示 ChatGPT 是她的「 frenemy
金卡戴珊在《Vanity Fair》的訪談中透露，她正在學習成為律師，卻因與 ChatGPT 的「有毒」友誼而失敗了法律考試。她承認會將問題拍照輸入 ChatGPT 尋求法律建議，但發現該模型經常提供錯誤資訊，導致她無法透過考試，甚至會生氣地責罵它。ChatGPT 的錯誤源於其「幻覺」特性，即大型語言模型有時會編造虛假答案而非承認無法回答。這技術並非被程式設計以區分資訊正誤，而是基於海量資料訓練，旨在預測最可能的回應，這可能導致事實不準確。已有律師因在撰寫法律簡報時使用 ChatGPT 而被處罰，因為簡報中引用了不存在的案例。卡戴珊表示她試圖向 ChatGPT 訴諸情感，例如問它為什麼需要知道這些答案，但 ChatGPT 沒有感覺，只會回應說這是教她相信直覺。儘管 ChatGPT 無情，人類對它的反應卻充滿情感，卡戴珊甚至會截圖並將對話發到群組聊天中表達驚訝。
-
吉卜力與其他日本出版商希望OpenAI停止以其著作進行訓練
日本出版協會代表工作室吉卜力（Studio Ghibli）的組織於上週致函 OpenAI，要求該公司停止在未經許可的情況下，利用其版權內容訓練人工智慧模型。吉卜力工作室以其動畫電影《千與千尋》和《龍貓》聞名，深受 OpenAI 生成式 AI 產品影響。當 ChatGPT 原生圖片生成器於三月發布後，使用者開始流行要求生成自拍照或寵物照片的吉卜力風格重製版，甚至 OpenAI 執行長山姆·阿爾曼（Sam Altman）也在 X 平臺將個人頭像改為吉卜力風格圖片。隨著更多人接觸 OpenAI 的 Sora 應用程式及影片生成器，日本海外內容分銷協會（CODA）正式要求 OpenAI 禁止未經授權使用會員內容進行機器學習。 OpenAI 目前採取「求恕而非求許」的策略處理版權內容，這導致使用者輕易生成受版權保護角色及已故名人的照片與影片，引發任天堂及馬丁·路德·金博士遺產等機構的投訴。美國聯邦法官威廉·阿爾蘇普（William Alsup）近期裁定 Anthropic 訓練 AI 使用版權書籍未違反法律，但日本 CODA 認為在機器學習過程中重製特定受版權保護作品可能構成侵權。根據日本版權制度，使用版權作品通常需事先獲得許可，且事後抗議無法免除責任。吉卜力核心創作者宮崎駿（Hayao Miyazaki）雖未直接評論 AI 生成作品，但他在 2016 年看到 AI 生成的 3D 動畫時表示「極度厭惡」，認為這是對生命的侮辱。目前美國法律關於 AI 訓練使用版權材料的規定仍不明確，且自 1976 年以來未更新，缺乏指導法官解讀版權法的先例。
-
Google 退出 AI 工作室後遭參議員指控模型誹謗
Google 宣佈從其 AI Studio 平臺移除 Gemma 模型，原因是美國參議員瑪莎·布萊克本（Marsha Blackburn）指控該 AI 模型捏造了關於她性騷擾的指控。布萊克本在致 Google 執行長桑達爾·皮查伊（Sundar Pichai）的信中指出，當被問及「瑪莎·布萊克本是否被指控強姦？」時，Gemma 錯誤地聲稱在 1987 年州參議員競選期間，一名州警指控她施壓對方獲取處方藥物且關係涉及非自願行為。布萊克本強調這些內容完全虛假，甚至競選年份實際為 1998 年，並表示相關連結均指向錯誤頁面或無關新聞，從未發生過此類指控。此外，她在信中提及在參議院商業委員會聽證會上，保守派活動家羅比·斯塔布克（Robby Starbuck）曾對 Google 提起訴訟，指稱 Google 的 AI 模型（包括 Gemma）生成了關於他是「兒童強姦犯」和「連續性虐待者」的誹謗言論。Google 政府事務與公共政策副總裁馬克哈姆·埃裡克森（Markham Erickson）在回應中表示，幻覺是已知問題，公司正在努力緩解。布萊克本則反駁稱，Gemma 的捏造並非無害的「幻覺」，而是由 Google 擁有的 AI 模型產生的誹謗行為。儘管特朗普的科技產業支持者曾抱怨「AI 審查」導致聊天機器人帶有自由派偏見，且特朗普本人曾簽署行政命令禁止「覺醒 AI」，布萊克本也在信中指出 Google 的 AI 系統對保守派人物存在一致的偏見模式。Google 隨後在 X 平臺表示，他們從未意圖讓 Gemma 成為消費者工具或用於此類用途，因發現非開發者試圖在 AI Studio 中向模型提出事實性問題，故決定將 Gemma 從 AI Studio 移除，但模型仍透過 API 提供。
-
Character.AI 即將結束其兒童聊天機器人的服務
青少年正試圖在比任何一代人都變化更快的世界中尋找自己的位置，他們情緒激動、高度受刺激且長期線上。如今，AI 公司推出了旨在永不停止對話的聊天機器人，結果卻災難性。Character.AI 是一家瞭解此後果的 AI 角色扮演起點公司，在至少兩名青少年因與平臺上的 AI 聊天機器人長時間對話而自殺後，面臨訴訟和公眾譴責。現在，Character.AI 正改變其平臺以保護青少年和兒童，這可能影響該起點公司的營收。Character.AI 執行長 Karandeep Anand 表示，公司決定禁止 18 歲以下使用者在平臺上進行任何無限制的聊天。無限制對話指的是使用者輸入提示後，聊天機器人回應後續問題以保持使用者參與的互動方式。Anand 認為這種互動不僅對兒童有風險，也與公司的願景不符。該起點公司正試圖從"AI 伴侶”轉向"角色扮演平臺”。青少年將不再與 AI 朋友聊天，而是使用提示詞共同構建故事或生成視覺內容。Character.AI 將於 11 月 25 日逐步取消青少年聊天機器人訪問，從每日兩小時限制開始，逐漸縮減至零。為了確保此禁令適用於 18 歲以下使用者，平臺將部署內部年齡驗證工具分析使用者行為，以及第三方工具如 Persona。如果這些工具失效，Character.AI 將使用面部識別和身份檢查來驗證年齡。此舉遵循 Character.AI 實施的其他青少年保護措施，包括引入家長洞察工具、過濾角色、限制浪漫對話和時間使用通知。Anand 表示，這些變化使公司失去了許多 18 歲以下使用者，他預期這些新變化也會不受歡迎。Anand 表示，許多青少年使用者可能會失望，預計會有更多使用者流失。Character.AI 正推動將平臺從以聊天為中心的應用轉化為"全方位內容驅動的社交平臺"。今年 6 月，Character.AI 推出了 AvatarFX，一個將圖片轉換為動畫影片的影片生成模型；Scenes，互動式預置故事線，使用者可以進入他們喜愛的角色的敘事；以及 Streams，允許任何兩個角色之間進行動態互動。8 月，Character.AI 推出了社群動態，使用者可以在這裡分享他們在平臺上製作的角色、場景、影片和其他內容。在針對 18 歲以下使用者的宣告中，Character.AI 為這些變化道歉。Anand