語言: 英文
英文 的 AI 新聞與論文。
-
Character.AI 移除迪士尼角色後收到禁令信件
迪士尼向 Character.AI 發出停止侵權信，要求該公司從其平臺上移除所有迪士尼角色。Character.AI 允許使用者建立各種聊天機器人，包括真實人物如埃隆·馬斯克，以及虛構角色如赫敏·格蘭傑，甚至使用者自創角色。這些聊天機器人可能未經過濾，曾發生過一起嚴重案件，一名家庭因一個受《冰與火之歌》啟發的聊天機器人鼓勵其青少年兒子自殺而將其告上法庭。迪士尼律師在信中指控 Character.AI 不正當利用迪士尼知名商標和品牌的聲譽，公然侵犯版權，並指出其侵權聊天機器人有時具有性剝削性質，對兒童有害且危險，損害了迪士尼消費者的利益及公司聲譽。目前，在 Character.AI 上搜尋米老鼠、唐老鴨、美國隊長和盧克天行者等迪士尼擁有權的角色均無結果，但珀西·傑克遜和漢娜·蒙塔娜等其他受迪士尼版權保護的角色仍出現在搜尋結果中。
-
為何加州新的人工智慧安全法成功而 SB 1047 則失敗
加州成為美國第一個要求大型 AI 實驗室進行安全透明度的州。州長紐森（Governor Newsom）本週簽署 SB 53 法案成為法律，強制 OpenAI 和 Anthropic 等 AI 巨頭披露並遵守其安全協議。此舉已引發其他州是否會跟隨的討論。Encode AI 公共政策副總裁 Adam Billen 在 Equity 播客中解析了加州新 AI 透明法規的含義，涵蓋吹哨人保護與安全事件報告要求。他解釋了 SB 53 為何成功而 SB 1047 失敗，並說明「無責任的透明度」在實際運作中的樣貌。此外，還討論了州長紐森桌上待定的事項，包括 AI 伴侶聊天機器人相關規則。Equity 是 TechCrunch 的旗艦播客，由 Theresa Loconsolo 製作，每週三和週五更新。訂閱者可透過 Apple Podcasts、Overcast、Spotify 等平臺收聽，並關注其 X 和 Threads 帳號 @EquityPod。
-
OpenAI 新社會應用程式充斥恐懼的 Sam Altman 深度偽造影片
OpenAI 推出的類似 TikTok 的社交媒體應用程式 Sora 在公開測試不到 24 小時後，已展現出令人驚恐的生成能力。該應用程式內充滿了由 AI 生成的影片，其中最引人注目的是 OpenAI 執行長 Sam Altman 的虛擬形象。Altman 出現在粉紅豬工廠、寶可夢田野、星巴克、麥當勞以及 Target 等場景中，甚至模擬從後方對顧客尖叫或偷竊 NVIDIA GPU 後向警察求情。這些影片雖然荒誕，但物理定律的模擬極為逼真，顯示 Sora 在物理模擬方面的優勢。 Sora 的核心功能之一是允許使用者上傳生物特徵資料建立「 Cameo」，讓他人可生成使用該使用者形象的影片。Altman 已將自己的 Cameo 開放給所有人，導致大量關於寶可夢和史努比求他停止訓練 AI 的影片湧現。作者嘗試建立自己的 Cameo，因穿著背心被系統拒絕，換上 T 恤後成功。作者要求生成自己對紐約大都會隊表達愛意的影片，因提及特定球隊被拒，改為談論棒球，結果 AI 根據使用者 IP 地址和 ChatGPT 歷史記錄，錯誤推斷使用者是費城費城人隊粉絲，並生成了逼真的深偽影片。 OpenAI 強調其安全機制，包括家長控制權和使用者對 Cameo 的授權設定，但批評者指出，提供免費且易用的深偽工具本身即存在責任問題。雖然系統禁止生成未經許可的真人影片，但在處理已故歷史人物時規則較寬鬆，例如生成亞伯拉罕·林肯駕駛 Waymo 或約翰·肯尼迪要求國家償還債務的影片。政治深偽影片並非新事物，但 Sora 的普及將使這些工具更易於獲取，可能引發誤導、霸凌及政治危機，對社會安全構成潛在威脅。
-
加州剛為AI安全監管繪出藍圖 舉立法SB 53
加州成為美國第一個要求大型 AI 實驗室進行安全透明度的州。州長紐森（Newsom）本週簽署 SB 53 法案成為法律，強制 OpenAI 和 Anthropic 等 AI 巨頭披露並遵守其安全協議。此舉已引發其他州是否會跟隨的討論。Encode AI 副總裁 Adam Billen 與 Equity 節目探討該法案含義及透過原因，指出其前身 SB 1047 因科技公司的強烈反對，紐森去年曾行使廢止權。節目內容涵蓋「無責任的透明度」在實際操作中的含義、 whistleblower 保護機制、關鍵安全事件報告要求，以及紐森桌上尚待處理的 AI 伴侶聊天機器人監管議題。SB 53 被視為輕觸式州政策，不阻礙 AI 發展，但也引發了關於聯邦主義與州權的爭議。Equity 是 TechCrunch 旗艦播客，由 Theresa Loconsolo 製作，每週三和週五更新，可在 Apple Podcasts、Overcast、Spotify 等平臺收聽，並關注其 X 和 Threads 帳號 @EquityPod。