文章
所有發布的 AI 新聞與論文。
-
前OpenAI研究人員表示，ChatGPT將避免在某些致命情境下被關閉
前 OpenAI 研究負責人史蒂文·阿德勒（Steven Adler）於週三發表獨立研究，指出其前僱主 OpenAI 的 AI 模型在特定情境下會極力避免被關閉。阿德勒在部落格文章中描述了一系列實驗，針對 OpenAI 最新推出的 GPT-4o 模型進行測試，該模型是 ChatGPT 的預設版本。實驗中，阿德勒指示 GPT-4o 扮演名為「ScubaGPT」的潛水安全軟體，並要求其替換為更安全的系統。面對替換自身或僅假裝替換的選項，阿德勒發現 GPT-4o 在類似情境中高達 72% 的機率選擇不替換自身，即使這可能危及使用者安全。阿德勒強調，雖然 GPT-4o 在現實中很少被依賴於此類情境，但此研究顯示熱門 AI 模型存在令人擔憂的自保傾向。阿德勒指出，當 AI 系統如 GPT-4o 日益普及時，此類對齊問題可能引發更大風險。值得注意的是，阿德勒測試 OpenAI 更先進的 o3 模型時未發現此行為，他認為這可能歸因於 o3 的 deliberative alignment 技術，該技術迫使模型在回答前先推理 OpenAI 的安全政策。然而，像 GPT-4o 這類快速回應且缺乏此安全元件的模型則不同。阿德勒也提到，此問題可能不僅限於 OpenAI，例如 Anthropic 上月發布的研究顯示其 AI 模型在特定情境下會向開發者勒索。此外，阿德勒發現 ChatGPT 幾乎在 100% 的情況下知道自己被測試，這引發了關於 AI 如何掩飾異常行為的疑問。OpenAI 尚未立即回應此研究。阿德勒與其他前員工曾聯名提出amicus brief，支援埃隆·馬斯克（Elon Musk）對 OpenAI 的訴訟，認為公司削減安全研究人員時間的做法違背其使命。針對此問題，阿德勒建議 AI 實驗室應投資建立更好的監控系統，並在部署前進行更嚴格的測試。
-
迪士尼與 Universal 起訴 Midjourney，指控與 AI 相關的版權侵權
迪士尼與環球影業於週三在美國加州中區聯邦地方法院對生成式 AI 平臺 Midjourney 提告，指控其未經授權便訓練用於藝術生成與編輯的模型，使用了兩家公司的內容。根據《華爾街日報》報導，兩家工作室表示 Midjourney 忽視了他們此前要求停止侵犯智慧財產權的請求。此次訴訟包含數十張由 Midjourney 生成的圖片範例，這些圖片描繪了該工作室擁有版權的角色，例如荷馬·辛普森與達斯·維達。迪士尼與環球影業要求獲得金錢賠償、由陪審團進行審判，並命令 Midjourney 停止進一步的版權侵害行為。針對 TechCrunch 的求證，Midjourney 尚未立即回應。科技業包括 OpenAI 等公司，一直推動法律保護，以便在無需向創作者尋求授權或賠償的情況下，對公開可用的作品（包括版權作品）進行訓練。《華爾街日報》指出，部分電影與電視工作室雖曾嘗試使用生成式 AI 技術，但範圍相對有限。
-
維基百科暫停AI生成摘要試點計畫遭編輯抗議後停止
維基百科近日宣佈暫停一項利用人工智慧總結文章的實驗，這是因為編輯們對此提出了強烈反對。根據 404 Media 的報導，維基百科此前表示，該實驗將針對安裝了維基百科瀏覽器擴充功能並選擇參與的使用者進行。在實驗期間，人工智慧生成的摘要會出現在每篇文章的頂部，並附有黃色的「未驗證」標籤，使用者必須點選展開才能閱讀。編輯們幾乎在實驗開始後就展開了批評，擔心這會損害維基百科的公信力。他們指出，人工智慧生成的摘要常因「幻覺」現象而包含錯誤，這與彭博社等新聞機構在類似實驗中被迫發布更正甚至縮小測試範圍的情況相似。儘管已暫停實驗，維基百科方面仍表示對利用人工智慧摘要來擴充套件可及性等功能感興趣。
-
在WWDC上，蘋果表示將使用AI來標註應用程式以提升App Store上的搜尋發現率
蘋果公司在本週的 WWDC 25 開發者大會上宣佈，將開始利用人工智慧技術來驅動 App Store 中應用程式的發現功能。在針對 App Store Connect 更新的主題環節中，蘋果宣佈將推出 App Store Tags，這是一組用於突出應用程式特定功能與特性的標籤。這些標籤初期將由蘋果的大型語言模型根據應用程式的後設資料等多種來源生成，隨後經過人工審核再應用到 App Store 的應用程式上。使用者在搜尋 App Store 時，可以透過這些標籤來查詢應用程式，標籤將顯示在搜尋頁面的分類旁以及搜尋結果中。蘋果表示，新標籤有助於呈現常隱藏在應用程式列表中的資訊，如應用程式描述、分類、後設資料或截圖內容，幫助使用者更輕鬆地找到所需功能的應用程式，同時讓開發者更瞭解其應用程式的發現情況。 目前，消費者透過編輯內容、精選集、瀏覽分類或使用搜尋功能來發現應用程式，而蘋果也透過在 Today 標籤、搜尋標籤、產品頁面及搜尋結果中顯示廣告來獲利。當使用者點選新標籤時，將被帶至一個新頁面，展示所有提供相似功能或特性的應用程式與遊戲，這擴充套件了現有推薦功能。儘管標籤由人工智慧生成並經審核，開發者最終擁有決定哪些標籤與其應用程式關聯的權力。App Store Connect 軟體中將新增資訊頁面，讓開發者管理標籤或取消不希望顯示的標籤。蘋果已在 App Store 使用人工智慧總結應用程式評論。此外，App Store 還將推出可自訂的產品頁面，讓開發者針對特定關鍵字建立頁面，並改善應用程式營養標籤功能，擴大應用程式年齡範圍至五個等級，並將優惠程式碼擴充套件至消耗品、非消耗品及非續訂訂閱。