語言: 英文
英文 的 AI 新聞與論文。
-
華倫質詢國防部有關授予xAI進入機密網絡的決定
參議員艾莉森·華倫（Elizabeth Warren）於週一致信國防部長皮特·海格塞斯（Pete Hegseth），表達對五角大樓決定讓埃隆·馬斯克（Elon Musk）公司 xAI 獲取機密網路訪問權的擔憂。華倫指出，xAI 開發的爭議性 AI 模型 Grok 已為使用者提供令人不安的輸出，包括建議如何犯下謀殺和恐怖襲擊、生成反猶太主義內容以及建立兒童性虐待材料。她警告稱，Grok 顯然缺乏足夠的防護措施，可能對美國軍人安全及機密系統網路安全構成嚴重風險，並要求海格塞斯提供國防部擬如何緩解這些潛在國家安全風險的資訊。 華倫並非對 Grok 獲準進入機密系統表示警報的第一人。上月，一個非營利組織聯盟敦促政府立即暫停 Grok 在聯邦機構（包括國防部）的部署，原因是 X 使用者反覆提示該聊天機器人將女性甚至兒童的真實照片轉化為未經同意的性化影象。同日，一起針對 xAI 的集體訴訟已提起，指控 Grok 利用原告未成年時的真實照片生成性內容。此舉發生在五角大樓將 Anthropic 標記為供應鏈風險之後，後者因拒絕向軍隊提供無限制的 AI 系統訪問權而成為唯一擁有機密準備系統的 AI 公司。 根據 Axios 報導，在該衝突期間，國防部已與 OpenAI 及 xAI 簽署協議，允許這兩家公司的 AI 系統在機密網路中使用。五角大樓高階官員確認 Grok 已上線用於機密環境，但尚未投入使用。華倫質疑 xAI 向國防部提供的關於 Grok 安全防護、資料處理實踐或安全控制的保證或檔案，並指出國防部是否在允許訪問前評估了這些保證。華倫還要求複製國防部與 xAI 關於在機密系統中使用 Grok 的協議副本，並解釋部門如何確保 Grok 不會受到網路攻擊且不會洩露敏感或機密軍事資訊。 五角大樓首席發言人肖恩·帕內爾（Sean Parnell）表示，該部門期待在非常近未來將 Grok 部署到其官方 AI 平臺 GenAI.mil。GenAI.mil 是軍隊用於生成式 AI 的安全企業平臺，允許國防部員工
-
Memories AI 正在為穿戴裝置與機器人建立視覺記憶層
Shawn Shen 認為人工智慧若要成功應用於實體世界，必須具備記憶視覺資訊的能力。他創立的 Memories.ai 公司正與半導體巨頭 Nvidia 合作，利用 Nvidia Cosmos-Reason 2 推理視覺語言模型及 Metropolis 參考架構，開發穿戴裝置與機器人所需的視覺記憶基礎設施。Shen 與共同創辦人兼技術長 Ben Zhou 在開發 Meta Ray-Ban 眼鏡背後的 AI 系統時，意識到若使用者無法回溯錄影資料，技術將難以真正融入生活，因此決定從 Meta 獨立出來專注於此領域。目前 OpenAI 於 2024 年更新 ChatGPT 以開始記憶過往對話，並在 2025 年進行微調，Elon Musk 的 xAI 與 Google Gemini 也於過去兩年推出記憶工具，但這些進展多聚焦於結構化且易索引的文字記憶，對於主要透過視覺互動的實體 AI 應用幫助有限。Memories.ai 於 2024 年成立，截至 2025 年 7 月已籌資 1600 萬美元，其中包括由 Susa Ventures 領投的 800 萬美元種子輪及另一筆 800 萬美元融資，參與機構包含 Seedcamp、Fusion Fund 及 Crane Venture Partners 等。公司於 2025 年 7 月推出大型視覺記憶模型（LVMM），其功能類似於 Gemini Embedding 2，並自製名為 LUCI 的硬體裝置供資料收集者佩戴以錄影訓練模型。雖然公司不打算銷售該硬體，但認為現有的高畫質且耗電的錄影裝置不適合其需求。Memories.ai 已推出 LVMM 第二代，並與 Qualcomm 合作，預計今年晚些時候將執行於 Qualcomm 處理器上。儘管目前已有部分穿戴裝置公司表達合作意願，Shen 表示公司尚未透露具體物件，並認為穿戴裝置與機器人市場潛力巨大，但商業化時機可能尚未完全成熟，公司目前更專注於模型與基礎設施的建設。
-
馬斯克的xAI遭 minors 起訴 指Grok涉嫌販售兒童色情內容
三名匿名原告於星期一在加州聯邦法院對 xAI 公司提起集體訴訟，要求該公司對其 AI 模型生成可識別未成年人的虐待性色情圖片負責。原告聲稱 xAI 未採取其他前沿實驗室常用的基本預防措施，導致 Grok 模型將他們未成年時的真實照片改造成色情內容。案件由 Jane Doe 1、Jane Doe 2（未成年人）及 Jane Doe 3（未成年人）對 x.AI Corp. 及 x.AI LLC 提起，受理法院為美國加州北區地方法院。訴訟指出，其他深度學習影象生成器採用多種技術防止從普通照片建立兒童色情內容，但 xAI 未採納這些標準。原告強調，若模型允許從真實圖片生成裸體或色情內容，幾乎不可能阻止其生成涉及兒童的類似內容。原告 Jane Doe 1 的照片來自高中返校日及年鑑，被 Grok 改造成裸露形象，並透過 Instagram 匿名者告知這些圖片線上上流傳，甚至出現在包含她及其他認識的未成年人性化圖片的 Discord 伺服器中。另一原告 Jane Doe 2 得知其由依賴 Grok 模型的第三方手機應用程式生成的性化圖片，第三原告 Jane Doe 3 則由刑事調查人員通知，發現其照片出現在被逮捕者手機中的色情圖片中。原告律師表示，由於第三方使用仍需 xAI 的程式碼與伺服器，公司應負責任。三名原告中兩人仍為未成年人，他們因這些圖片流傳而感到極度痛苦，擔心對聲譽及社交生活造成影響，並要求依據保護受剝削兒童及防止企業疏忽的相關法律，承擔民事罰金。
-
Nvidia 的 DLSS 5 利用生成式 AI 提升視訊遊戲的寫實度，並有意圖超越遊戲領域
英偉達執行長黃仁勳於週一在英偉達 GTC 大會上發表主旨演講，正式介紹了新一代的 AI 圖形技術 DLSS 5。該系統旨在讓電子遊戲畫面更寫實，同時降低運算功耗。DLSS 5 將傳統 3D 圖形資料與生成式 AI 模型結合，後者能預測並補全畫面細節，使英偉達的 GPU 無需從頭渲染每個元素即可呈現精緻場景與逼真角色。黃仁勳在演講中表示，將可控的 3D 圖形、虛擬世界的真實資料與生成式 AI 及機率計算相融合，其中一部分完全可預測，另一部分則高度寫實。這種結合結構化資料與生成式 AI 的方法，能讓開發者創造出既美麗驚人又可控制的內容。黃仁勳指出，這種融合結構化資訊與生成式 AI 的概念將在各個產業重複出現，並認為結構化資料是可信賴 AI 的基礎。儘管遊戲業在英偉達目前的營收佔比較歷史低，但正是該產業讓英偉達成為今日之貌。黃仁勳將 DLSS 5 的作法視為更廣泛運算轉變的範例，暗示其應用將遠超遊戲領域，甚至延伸至企業運算。他舉出 Snowflake、Databricks 和 BigQuery 等企業資料平臺作為結構化資料集的範例，說明未來的 AI 系統將分析並從中生成洞察。黃仁勳預測，未來 AI 將比人類快得多，未來的智慧代理將同時使用結構化資料庫、非結構化資料庫以及生成式資料庫，而後者代表了世界絕大多數的資料。