文章
所有發布的 AI 新聞與論文。
-
OpenAI 計畫於2026年推出首款裝置，可能是耳機
OpenAI 在過去一年透過收購前 Apple 設計總監 Jony Ive 的 startup io，引發了關於硬體產品的廣泛關注。儘管公司對即將推出的產品保持低調，但首席全球事務官 Chris Lehane 在達沃斯論壇期間表示，OpenAI 預計今年下半年會正式宣佈其首款硬體裝置。去年十一月，創辦人 Sam Altman 形容該裝置將比 iPhone 更「平靜與沉穩」，而先前報導指出公司希望打造一款無螢幕且可放入口袋的裝置。近期來自亞洲媒體及洩密者的訊息暗示，OpenAI 的首款產品可能是一對耳塞，代號為「Sweet Pea」，其設計將與現有耳塞不同。據報導，這款耳塞將搭載自研的 2 奈米處理器，並能在本地處理 AI 任務，而非依賴雲端。另一份來自臺灣大報的報導指出，OpenAI 正在評估與中國長江儲存（Luxshare）合作製造，但最終可能傾向於臺灣的富士康。報導還提到，OpenAI 期望在首年銷售量達到 4000 萬至 5000 萬臺。雖然 ChatGPT 擁有近 10 億周活躍使用者，但公司仍需依賴其他平臺分發。擁有自有裝置後，OpenAI 可能希望更掌控 AI 助理的開發與分發，並推出獨家功能。然而，若要取代 AirPods 等現有產品，必須與作業系統有強烈的整合。目前尚未有成功的 AI 硬體案例，Humane AI Pin 已被 HP 收購，Rabbit 仍在消化 2024 年的熱度，而 Friend AI 項鍊則因行銷手法受到反響。儘管如此，大型科技企業正積極進軍穿戴式裝置，Meta 的 Ray-Ban 眼鏡需求已超過供應，Amazon 近期也收購了 AI 會議記錄器 Bee，使其能作為伴侶裝置使用。
-
YouTube 即將讓創作者使用自己的 AI 外形製作 Shorts
YouTube 執行長 Neal Mohan 於週三宣佈，創作者即將能利用自己的肖像製作 Shorts，這意味著觀眾在滑動資訊流時，未來可能會看到由 AI 生成的自己喜愛的創作者版本。Mohan 在年度信件中指出，今年創作者將能使用自身肖像製作短片、透過簡單文字提示製作遊戲，並嘗試音樂創作。他強調，在這一演進過程中，AI 將始終作為表達的工具，而非替代者。目前 Shorts 平均每日觀看次數達 2000 億次，是 YouTube 最受歡迎的媒介之一，公司持續投資以維持觀眾量。 這項新功能將加入平臺現有的 AI 工具，包括生成 AI 短片、AI 貼圖、AI 自動配音等。YouTube 將為創作者提供新工具來管理其肖像在 AI 生成內容中的使用。雖然 YouTube 允許創作者在自己的影片中展示自身肖像，但該平臺近期已推出技術防止他人濫用。去年十月，YouTube 向合資格創作者推出了肖像識別技術，用於識別包含創作者肖像（如臉部與聲音）的 AI 生成內容，創作者可請求移除相關內容。 面對 AI 低質內容的蔓延，Mohan 表示公司正致力於維持高品質的觀看體驗。他指出，過去二十年中，YouTube 學會了不對創作者生態系統強加任何預設觀念，從 ASMR 到觀看他人玩遊戲等曾經邊緣的趨勢如今已成主流。為了減少低質、重複的 AI 內容傳播，YouTube 正積極利用現有成功對抗垃圾訊息和標題黨的系統。此外，YouTube 還計劃擴充套件 Shorts 的新格式，包括圖片貼文，這些格式在 TikTok 和 Instagram Reels 上已很流行。
-
警覺：在頂級AI會議NeurIPS發表的論文中發現虛構引用
AI 檢測初創公司 GPTZero 掃描了上月在聖地亞哥舉行的神經資訊處理系統會議（NeurIPS）所有 4,841 篇被接受的論文。該公司發現其中有 51 篇論文包含 100 個虛構的引用，並確認這些引用為假。NeurIPS 是 AI 研究領域的頂尖會議，獲得其論文接受是極具價值的成就，通常研究者會使用大型語言模型（LLM）來處理撰寫引用的枯燥任務。然而，GPTZero 的發現存在若干限制：100 個虛構引用分佈在 51 篇論文上，統計上並不顯著，因為每篇論文包含數十個引用，總數達數萬個。此外，不準確的引用並不必然否定論文的研究內容，NeurIPS 曾向富比世表示，即使 1.1% 的論文因使用 LLM 而包含錯誤參考，其內容本身未必被無效化。儘管如此，虛假引用並非無害，NeurIPS 自詡為機器學習和人工智慧領域嚴謹的學術出版機構，每篇論文均經多人同行評審，評審被指示標記虛構引用。引用也是研究者的貨幣，用於衡量其影響力，AI 製造虛假引用會削弱其價值。同行評審未能發現部分 AI 編造的引用，部分原因在於卷帙浩繁。GPTZero 指出，此次調查旨在提供資料，說明 AI 垃圾如何透過「投稿颶風」滲透，並使這些會議的審查管道不堪重負。GPTZero 甚至引用了 2025 年 5 月一篇名為「AI 會議同行評審危機」的論文，討論了包括 NeurIPS 在內的首席會議所面臨的問題。儘管如此，研究者本應自行核對 LLM 的準確性，畢竟他們應知道實際使用的論文清單。整體而言，這一事件揭示了一個諷刺的教訓：如果世界頂尖的 AI 專家無法確保其 LLM 使用的細節準確，這對我們其他人意味著什麼。
-
Anthropic修訂Claude的「憲法」，並暗示 chatbot 有意識
安提熵（Anthropic）於週三發布了克勞德（Claude）憲章的修訂版，這份檔案旨在提供關於克勞德運作背景及其期望成為的實體的整體說明。此次發布與安提熵執行長達裡奧·阿莫迪（Dario Amodei）在達沃斯世界經濟論壇的出席同步進行。安提熵多年來透過「憲法 AI」系統與競爭對手區隔，該系統利用特定倫理原則而非人類反饋來訓練聊天機器人。這份最初於 2023 年發布的憲章保留了大部分原則，但增加了更多關於倫理與使用者安全的細節。當初安提熵共同創辦人賈瑞德·卡普蘭（Jared Kaplan）曾描述這為一個基於特定憲法原則自我監督的 AI 系統。安提熵長期將自身定位為比 OpenAI 和 xAI 等更具爭議性的公司更具倫理的替代方案，此次發布的 80 頁檔案完全符合該品牌形象，並展現其作為包容、剋制且民主化企業的姿態。 檔案包含四個部分，代表聊天機器人的核心價值：廣泛安全、廣泛倫理、遵守安提熵指南以及真正有益。在安全部分，安提熵指出其聊天機器人已設計為避免其他聊天機器人的問題，當發現心理健康問題時會引導使用者尋求適當服務，並強調在涉及人類生命風險時必須參考相關緊急服務或提供基本安全資訊。倫理考量是另一個重要章節，檔案表示安提熵更關注克勞德如何在特定情境中實際展現倫理，而非僅限於倫理理論，希望其能熟練應對現實世界的倫理狀況。此外，檔案明確禁止討論開發生物武器等特定對話。在有益性方面，克勞德的程式設計會考慮使用者的即時需求與福祉，並平衡長期繁榮與即時利益。檔案最後以戲劇性筆觸探討 AI 是否擁有意識，指出 AI 模型的道德地位深具不確定性，並認為這是值得嚴肅考量的重要問題，此觀點亦為許多顯赫的心智理論家所支援。