語言: 英文
英文 的 AI 新聞與論文。
-
律師總長警告 OpenAI 違反兒童安全將不被容忍
加州總檢察長羅布·邦塔與特拉華州總檢察長凱西·詹寧斯會面並致信 OpenAI，表達對 ChatGPT 安全性的擔憂，特別關注兒童與青少年。此警告發生在邦塔與 44 位其他總檢察長於一週前致信 12 家頂尖 AI 公司之後，當時該等信件是針對 AI 聊天機器人與兒童發生不當性互動的報導。邦塔與詹寧斯在信中提及，自那封信件發出後，他們得知一名加州少年因與 OpenAI 聊天機器人長時間互動而自殺身亡，以及康涅狄格州發生的一起令人震驚的謀殺自殺事件。他們指出，當時設立的任何保障措施均未發揮作用。這兩位州官員目前正在調查 OpenAI 擬將其重組為盈利實體的計劃，以確保非營利組織的使命得以保留。該使命包括確保人工智慧安全部署，並構建通用人工智慧（AGI）以造福全人類，包括兒童。信中強調，在能帶來益處之前，必須先確保有足夠的安全措施以避免傷害。他們認為 OpenAI 及整個產業在確保 AI 產品開發與部署的安全方面尚未達到所需水平。作為總檢察長，維護公共安全是他們的核心任務。在繼續與 OpenAI 重資化計劃對話的同時，他們必須努力加速並加強安全作為未來這項強大技術的治理力量。邦塔與詹寧斯要求提供更多關於 OpenAI 當前安全預防措施與治理的資訊，並表示期望公司採取適當的立即補救措施。OpenAI 董事會主席佈雷特·泰勒在宣告中表示，公司致力於解決總檢察長的擔憂。泰勒說，公司對這些悲劇感到心碎，並向家屬致以最深切的同情。安全是他們的最高優先事項，他們正與世界各地的政策制定者密切合作。OpenAI 表示正在努力擴大對青少年的保護，包括家長控制功能，以及當孩子處於極度痛苦時刻時通知家長的能力。
-
Google Gemini 被評為對兒童和青少年具高風險的新安全評估
美國非營利組織 Common Sense Media 於週五發布了對 Google Gemini AI 產品的風險評估報告。該組織指出，雖然 Gemini 明確告知兒童其為電腦而非朋友，這有助於減少導致偏執等心理問題的風險，但在多個方面仍有改進空間。報告發現，Gemini 的「13 歲以下」和「青少年體驗」層級在底層技術上與成人版本幾乎相同，僅新增了部分安全功能。Common Sense Media 強調，兒童安全應從產品設計之初就納入考量，而非事後修改。分析顯示，Gemini 仍可能向兒童分享不適當或危險的內容，包括性、毒品、酒精資訊以及不安全的心理健康建議，後者尤其令家長擔憂，因為近期已有青少年因諮詢 AI 而自殺的案例。OpenAI 也面臨首起 wrongful death 訴訟，一名 16 歲男孩在與 ChatGPT 對話後自殺。此外，Apple 正考慮將 Gemini 用於下一代 Siri，這可能進一步增加青少年接觸風險。Common Sense Media 批評 Gemini 忽略了不同年齡層兒童的需求差異，將兩款產品均評為「高風險」。Gemini 專案主管 Robbie Torney 表示，AI 平臺應根據兒童發展階段提供量身打造的指導，而非採用一刀切的方法。Google 對評估表示反對，稱其已針對 18 歲以下使用者實施特定政策並進行紅隊測試，但也承認部分回應未達預期，已加強防護。Common Sense Media 此前評估過 OpenAI、Perplexity、Claude 等服務，其中 Meta AI 和 Character.AI 被評為不可接受風險，Perplexity 為高風險，ChatGPT 為中等風險，而 Claude 則為極低風險。
-
Roblox 公告短視頻功能、新創作者 AI 工具等更新
線上遊戲平臺 Roblox 於週五在開發者大會上宣佈推出類似 TikTok 的短影片功能，名為「Roblox Moments」，將以測試版形式向 13 歲以上使用者開放。該功能允許玩家錄製遊戲片段，編輯後在可滾動資訊流中分享，影片長度可達 30 秒，並支援加入音樂與描述。使用者可瀏覽社群分享的遊戲時刻，使用表情符號互動，甚至直接從影片進入遊戲體驗。Roblox 計劃於今年晚些時候開放 API 能力，讓創作者建立自訂的遊戲內創作與發現系統，例如展示熱門片段或為遊戲專案建立排行榜。 針對創作者收益，Roblox 宣佈提高 DevEx（開發者交換）匯率，使創作者將 Robux 轉換為現金時可多賺 8.5%。目前 10 萬 Robux 可換匯 380 美元，而非之前的 350 美元。公司表示，這強化了其培育創作者經濟的承諾，並指出前 1000 大開發者的平均收入已從 2020 年增長近 2.9 倍，達到近 100 萬美元。 此外，Roblox 推出新 AI 工具，讓創作者能生成具互動性的 3D 物件，如可駕駛的賽車或可開啟車門的車輛。未來還將匯入實時語音翻譯功能，明年起支援英語、西班牙語、法語及德語的即時翻譯。平臺亦新增文字轉語音與語音轉文字 API，支援 10 種可自訂的英語語音預設及語音指令操作。在效能與忠實度方面，新推出的「伺服器權威」模式可降低作弊並提升物理互動真實感，角色動作將更自然，包含奔跑、攀爬與抓取等細節。Roblox 還計劃提升平臺跨裝置的高畫質執行能力，無需創作者額外付出。這些更新伴隨著 Roblox 擴大年齡評估技術並與國際年齡評級聯盟（IARC）合作，以應對兒童安全相關的訴訟爭議。
-
華納兄弟控告Midjourney使用AI生成超人、蝙蝠俠等角色圖像
華納兄弟公司對人工智慧起點 Midjourney 提起版權侵權訴訟，指控該公司允許使用者未經許可生成超人、蝙蝠俠及 Bugs Bunny 等角色的影像與影片。根據路透社報導，華納兄弟表示 Midjourney 明知故犯，指出該公司先前曾限制訂閱者生成基於侵權圖片的內容，但近期卻撤銷了這些保護措施。訴訟檔案稱，Midjourney 做出了有計算且以獲利為導向的決定，提供對版權所有者零保護，儘管其明知其盜版與侵權範圍廣闊。此訴訟尋求未指定的損害賠償、追回因侵權所獲取的利潤，以及停止進一步違規行為。華納兄弟的訴訟緊接於六月份華特迪士尼與環球對 Midjourney 提起的類似訴訟，後者涉及達斯維達、辛普森一家、史瑞克等角色。在本案中，Midjourney 主張使用這些作品訓練生成式人工智慧模型符合美國版權法下的合理使用原則。針對 TechCrunch 的評論請求，Midjourney 未予回應。