文章
所有發布的 AI 新聞與論文。
-
OpenAI 新社會應用程式充斥恐懼的 Sam Altman 深度偽造影片
OpenAI 推出的類似 TikTok 的社交媒體應用程式 Sora 在公開測試不到 24 小時後，已展現出令人驚恐的生成能力。該應用程式內充滿了由 AI 生成的影片，其中最引人注目的是 OpenAI 執行長 Sam Altman 的虛擬形象。Altman 出現在粉紅豬工廠、寶可夢田野、星巴克、麥當勞以及 Target 等場景中，甚至模擬從後方對顧客尖叫或偷竊 NVIDIA GPU 後向警察求情。這些影片雖然荒誕，但物理定律的模擬極為逼真，顯示 Sora 在物理模擬方面的優勢。 Sora 的核心功能之一是允許使用者上傳生物特徵資料建立「 Cameo」，讓他人可生成使用該使用者形象的影片。Altman 已將自己的 Cameo 開放給所有人，導致大量關於寶可夢和史努比求他停止訓練 AI 的影片湧現。作者嘗試建立自己的 Cameo，因穿著背心被系統拒絕，換上 T 恤後成功。作者要求生成自己對紐約大都會隊表達愛意的影片，因提及特定球隊被拒，改為談論棒球，結果 AI 根據使用者 IP 地址和 ChatGPT 歷史記錄，錯誤推斷使用者是費城費城人隊粉絲，並生成了逼真的深偽影片。 OpenAI 強調其安全機制，包括家長控制權和使用者對 Cameo 的授權設定，但批評者指出，提供免費且易用的深偽工具本身即存在責任問題。雖然系統禁止生成未經許可的真人影片，但在處理已故歷史人物時規則較寬鬆，例如生成亞伯拉罕·林肯駕駛 Waymo 或約翰·肯尼迪要求國家償還債務的影片。政治深偽影片並非新事物，但 Sora 的普及將使這些工具更易於獲取，可能引發誤導、霸凌及政治危機，對社會安全構成潛在威脅。
-
為何加州新的人工智慧安全法成功而 SB 1047 則失敗
加州成為美國第一個要求大型 AI 實驗室進行安全透明度的州。州長紐森（Governor Newsom）本週簽署 SB 53 法案成為法律，強制 OpenAI 和 Anthropic 等 AI 巨頭披露並遵守其安全協議。此舉已引發其他州是否會跟隨的討論。Encode AI 公共政策副總裁 Adam Billen 在 Equity 播客中解析了加州新 AI 透明法規的含義，涵蓋吹哨人保護與安全事件報告要求。他解釋了 SB 53 為何成功而 SB 1047 失敗，並說明「無責任的透明度」在實際運作中的樣貌。此外，還討論了州長紐森桌上待定的事項，包括 AI 伴侶聊天機器人相關規則。Equity 是 TechCrunch 的旗艦播客，由 Theresa Loconsolo 製作，每週三和週五更新。訂閱者可透過 Apple Podcasts、Overcast、Spotify 等平臺收聽，並關注其 X 和 Threads 帳號 @EquityPod。
-
Character.AI 移除迪士尼角色後收到禁令信件
迪士尼向 Character.AI 發出停止侵權信，要求該公司從其平臺上移除所有迪士尼角色。Character.AI 允許使用者建立各種聊天機器人，包括真實人物如埃隆·馬斯克，以及虛構角色如赫敏·格蘭傑，甚至使用者自創角色。這些聊天機器人可能未經過濾，曾發生過一起嚴重案件，一名家庭因一個受《冰與火之歌》啟發的聊天機器人鼓勵其青少年兒子自殺而將其告上法庭。迪士尼律師在信中指控 Character.AI 不正當利用迪士尼知名商標和品牌的聲譽，公然侵犯版權，並指出其侵權聊天機器人有時具有性剝削性質，對兒童有害且危險，損害了迪士尼消費者的利益及公司聲譽。目前，在 Character.AI 上搜尋米老鼠、唐老鴨、美國隊長和盧克天行者等迪士尼擁有權的角色均無結果，但珀西·傑克遜和漢娜·蒙塔娜等其他受迪士尼版權保護的角色仍出現在搜尋結果中。
-
OpenAI 員工苦撐社交媒體推廣策略
多位現任及前 OpenAI 研究人員對公司首次涉足社交媒體的 Sora 應用程式表達擔憂。該應用類似 TikTok，充滿 AI 生成影片及大量 Sam Altman 的深偽影像。研究人員在 X 平臺上表達矛盾心情，前預訓練研究員 John Hallman 表示 AI 基礎設施的資訊流令人害怕，但他認為團隊盡力設計了正面體驗，並承諾確保 AI 造福人類而非傷害。哈佛教授 Boaz Barak 則認為雖然 Sora 技術令人驚嘆，但慶祝其避免其他社交媒體陷阱為時過早。前研究員 Rohan Pandey 藉此推廣其創立的 Periodic Labs，該公司由前 AI 實驗室研究員組成，旨在開發加速基礎科學的 AI 系統，而非建立無限的 AI 內容機器。 OpenAI 面臨核心張力，即作為地球上成長最快的消費科技公司與擁有崇高非營利使命的 frontier AI 實驗室之間的平衡。執行長 Sam Altman 在 X 上解釋，公司需要資金來構建能進行科學研究的 AI 並專注於通用人工智慧（AGI），同時推出令人興奮的產品以賺錢。加州總檢察長 Rob Bonta 最近表示特別關注確保 OpenAI 作為非營利組織的安全使命在重組中保持核心地位，這反映了監管機構對其轉為營利事業的審視。 Sora 的推出標誌著 OpenAI 消費業務的顯著擴張，並使其面臨過去數十年來困擾社交媒體平臺的誘因。與最佳化實用性的 ChatGPT 不同，OpenAI 聲稱 Sora 旨在娛樂，允許使用者生成和分享 AI 短片。儘管公司聲稱其關注過度滑動、成癮、孤獨及 RL 最佳化資訊流等問題，並計劃在使用者滑動過久時傳送提醒，主要展示使用者認識的人，但前政策領導人 Miles Brundage 指出，AI 影片資訊流的應用可能有好有壞。Altman 曾承認社交媒體時代的資訊流演算法產生了許多預期的負面後果。目前 Sora 僅執行一天，使用者已注意到動態表情符號等最佳化參與度的技術。OpenAI 能否在成長 Sora 時複製其前驅者的錯誤，仍有待觀察。