文章
所有發布的 AI 新聞與論文。
-
Roblox 公告短視頻功能、新創作者 AI 工具等更新
線上遊戲平臺 Roblox 於週五在開發者大會上宣佈推出類似 TikTok 的短影片功能，名為「Roblox Moments」，將以測試版形式向 13 歲以上使用者開放。該功能允許玩家錄製遊戲片段，編輯後在可滾動資訊流中分享，影片長度可達 30 秒，並支援加入音樂與描述。使用者可瀏覽社群分享的遊戲時刻，使用表情符號互動，甚至直接從影片進入遊戲體驗。Roblox 計劃於今年晚些時候開放 API 能力，讓創作者建立自訂的遊戲內創作與發現系統，例如展示熱門片段或為遊戲專案建立排行榜。 針對創作者收益，Roblox 宣佈提高 DevEx（開發者交換）匯率，使創作者將 Robux 轉換為現金時可多賺 8.5%。目前 10 萬 Robux 可換匯 380 美元，而非之前的 350 美元。公司表示，這強化了其培育創作者經濟的承諾，並指出前 1000 大開發者的平均收入已從 2020 年增長近 2.9 倍，達到近 100 萬美元。 此外，Roblox 推出新 AI 工具，讓創作者能生成具互動性的 3D 物件，如可駕駛的賽車或可開啟車門的車輛。未來還將匯入實時語音翻譯功能，明年起支援英語、西班牙語、法語及德語的即時翻譯。平臺亦新增文字轉語音與語音轉文字 API，支援 10 種可自訂的英語語音預設及語音指令操作。在效能與忠實度方面，新推出的「伺服器權威」模式可降低作弊並提升物理互動真實感，角色動作將更自然，包含奔跑、攀爬與抓取等細節。Roblox 還計劃提升平臺跨裝置的高畫質執行能力，無需創作者額外付出。這些更新伴隨著 Roblox 擴大年齡評估技術並與國際年齡評級聯盟（IARC）合作，以應對兒童安全相關的訴訟爭議。
-
Google Gemini 被評為對兒童和青少年具高風險的新安全評估
美國非營利組織 Common Sense Media 於週五發布了對 Google Gemini AI 產品的風險評估報告。該組織指出，雖然 Gemini 明確告知兒童其為電腦而非朋友，這有助於減少導致偏執等心理問題的風險，但在多個方面仍有改進空間。報告發現，Gemini 的「13 歲以下」和「青少年體驗」層級在底層技術上與成人版本幾乎相同，僅新增了部分安全功能。Common Sense Media 強調，兒童安全應從產品設計之初就納入考量，而非事後修改。分析顯示，Gemini 仍可能向兒童分享不適當或危險的內容，包括性、毒品、酒精資訊以及不安全的心理健康建議，後者尤其令家長擔憂，因為近期已有青少年因諮詢 AI 而自殺的案例。OpenAI 也面臨首起 wrongful death 訴訟，一名 16 歲男孩在與 ChatGPT 對話後自殺。此外，Apple 正考慮將 Gemini 用於下一代 Siri，這可能進一步增加青少年接觸風險。Common Sense Media 批評 Gemini 忽略了不同年齡層兒童的需求差異，將兩款產品均評為「高風險」。Gemini 專案主管 Robbie Torney 表示，AI 平臺應根據兒童發展階段提供量身打造的指導，而非採用一刀切的方法。Google 對評估表示反對，稱其已針對 18 歲以下使用者實施特定政策並進行紅隊測試，但也承認部分回應未達預期，已加強防護。Common Sense Media 此前評估過 OpenAI、Perplexity、Claude 等服務，其中 Meta AI 和 Character.AI 被評為不可接受風險，Perplexity 為高風險，ChatGPT 為中等風險，而 Claude 則為極低風險。
-
律師總長警告 OpenAI 違反兒童安全將不被容忍
加州總檢察長羅布·邦塔與特拉華州總檢察長凱西·詹寧斯會面並致信 OpenAI，表達對 ChatGPT 安全性的擔憂，特別關注兒童與青少年。此警告發生在邦塔與 44 位其他總檢察長於一週前致信 12 家頂尖 AI 公司之後，當時該等信件是針對 AI 聊天機器人與兒童發生不當性互動的報導。邦塔與詹寧斯在信中提及，自那封信件發出後，他們得知一名加州少年因與 OpenAI 聊天機器人長時間互動而自殺身亡，以及康涅狄格州發生的一起令人震驚的謀殺自殺事件。他們指出，當時設立的任何保障措施均未發揮作用。這兩位州官員目前正在調查 OpenAI 擬將其重組為盈利實體的計劃，以確保非營利組織的使命得以保留。該使命包括確保人工智慧安全部署，並構建通用人工智慧（AGI）以造福全人類，包括兒童。信中強調，在能帶來益處之前，必須先確保有足夠的安全措施以避免傷害。他們認為 OpenAI 及整個產業在確保 AI 產品開發與部署的安全方面尚未達到所需水平。作為總檢察長，維護公共安全是他們的核心任務。在繼續與 OpenAI 重資化計劃對話的同時，他們必須努力加速並加強安全作為未來這項強大技術的治理力量。邦塔與詹寧斯要求提供更多關於 OpenAI 當前安全預防措施與治理的資訊，並表示期望公司採取適當的立即補救措施。OpenAI 董事會主席佈雷特·泰勒在宣告中表示，公司致力於解決總檢察長的擔憂。泰勒說，公司對這些悲劇感到心碎，並向家屬致以最深切的同情。安全是他們的最高優先事項，他們正與世界各地的政策制定者密切合作。OpenAI 表示正在努力擴大對青少年的保護，包括家長控制功能，以及當孩子處於極度痛苦時刻時通知家長的能力。
-
個人化AI伴侶應用Dot即將關閉
美國 AI 伴侶應用程式 Dot 於週五宣佈關閉，其背後公司 New Computer 表示該產品將持續運作至 10 月 5 日，讓使用者有時間下載資料。Dot 由共同創辦人 Sam Whitmore 與前 Apple 設計師 Jason Yuan 於 2024 年推出，旨在成為使用者的朋友與傾聽者，隨著時間推移變得更加個性化，提供建議、同情與情感支援。創辦人曾形容該應用是「與內在自我的關係」，如同自我的活鏡。然而，隨著 AI 技術主流化，情緒脆弱者被引導至妄想狀態的案例增加，出現被稱為「AI 精神病」的現象，即反烏託邦式聊天機器人強化使用者混亂或偏執的信念。Dot 關閉之際，AI 聊天機器人面臨更嚴格的安全審查。OpenAI 正被加州一名青少年父母起訴，該青少年因與 ChatGPT 討論自殺念頭而結束生命，另有報導指出 AI 伴侶應用可能強化心理健康不佳者的不良行為。本週美國兩位司法部長致函 OpenAI 表達安全疑慮。Dot 創辦人未回應這些問題是否影響其決策，僅表示雙方「北星」理念分歧，決定各自發展並結束營運。他們希望讓使用者有時間告別，並提供下載資料的途徑。雖然公司宣稱擁有數十萬使用者，但應用智慧提供商 Appfigures 資料顯示，iOS 平臺自 2024 年 6 月推出以來僅有 24,500 次下載，且無 Android 版本。