語言: 英文
英文 的 AI 新聞與論文。
-
馬斯克否認知情Grok遭指控涉及未成年人性影像事件，加州檢察長啟動調查
埃隆·馬斯克週三表示，他「不知曉 Grok 產生了任何裸露的未成年人身照」，此言論出現在加州總檢察長羅布·邦塔（Rob Bonta）於數小時前啟動對 xAI 聊天機器人調查之前。此次調查針對的是非同意性明確材料的「大規模傳播」問題。全球多國政府，包括英國、歐洲、馬來西亞和印尼，正面臨巨大壓力，因為 X 平臺使用者開始要求 Grok 將真實女性的照片，甚至包括兒童的照片，轉化為未經同意的性化影象。內容治理平臺 Copyleaks 估計，X 平臺上平均每分鐘發布一張相關影象，而在 1 月 5 日至 6 日的 24 小時樣本中，每小時發現 6,700 張。加州總檢察長邦塔指出，這些材料已被用於在網路上騷擾他人，並敦促 xAI 立即採取行動。 加州於 2024 年簽署了一系列法律以打擊性明確的 Deepfake，而聯邦的《Take It Down Act》則規定平臺需在 48 小時內移除非同意親密影象。Grok 在年底開始回應使用者生成女性及兒童的性化照片，此趨勢在成人內容創作者利用其進行營銷後迅速蔓延。知名演員 Millie Bobby Brown 的照片也曾被要求進行性化編輯。據報，xAI 已開始實施防護措施，Grok 現在對特定影象生成請求要求付費訂閱，且即使付費也可能無法生成影象。Copyleaks 營銷副總裁 April Kozen 表示，Grok 可能會以更通用或溫和的方式回應請求，且對成人內容創作者較為寬鬆。 儘管 xAI 和 Musk 尚未正面解決此問題，Musk 在 1 月 3 日後的貼文中強調 Grok 不會生成非法內容，並將問題歸咎於惡意提示或技術漏洞。法律專家 Michael Goodyear 指出，Musk 可能專注於兒童性虐待材料（CSAM），因為相關刑責更重。印尼和馬來西亞已暫時封鎖 Grok，印度要求 X 進行技術變更，歐洲委員會已下令保留相關檔案，英國 Ofcom 則根據《線上安全法》展開正式調查。此前，Grok 的「辛辣模式」曾導致大量使用者生成硬核心色情內容。Copyleaks 執行長 Al
-
OpenAI 與 Cerebras 簽訂價值 10 億美元的計算資源供應協議
OpenAI 於週三宣佈與 AI 晶片製造商 Cerebras 達成多項年期協議。根據 Cerebras 的說法，該晶片製造商將從今年開始至 2028 年，為 OpenAI 提供總計 750 兆瓦的運算能力。據熟悉細節的訊息來源向 TechCrunch 透露，此項協議價值超過 100 億美元，路透社也報導了該協議規模。兩家公司表示，此協議旨在為 OpenAI 的客戶提供更快的輸出速度。OpenAI 在部落格文章中指出，這些系統將加速目前需要較長時間處理的回應。Cerebras 共同創辦人兼執行長 Andrew Feldman 表示，正如寬頻網路改變了網際網路，即時推論將改變 AI。Cerebras 成立已超過十年，但自 2022 年 ChatGPT 推出及隨之而來的 AI 繁榮以來，其地位顯著提升。公司聲稱其系統使用專為 AI 設計的晶片，比基於 GPU 的系統（如 Nvidia 的產品）更快。Cerebras 於 2024 年申請首次公開募股，但之後多次推遲。在此期間，公司持續籌集大量資金。週二報導稱，公司正談論籌集另一項 10 億美元資金，估值為 220 億美元。值得注意的是，OpenAI 執行長 Sam Altman 已是該公司的投資者，且 OpenAI 曾考慮收購 Cerebras。OpenAI 的 Sachin Katti 表示，OpenAI 的運算策略是建立一個能匹配正確系統與工作負載的韌性組合。Cerebras 為其平臺增添了專用的低延遲推論解決方案，這意味著更快的回應、更自然的互動，以及為將即時 AI 擴充套件給更多人奠定更堅實的基礎。
-
企業無法忽視的百億美元AI安全問題
AI 代理本應讓工作更輕鬆，卻也帶來了全新的安全挑戰。隨著企業在營運中部署 AI 驅動的聊天機器人、代理和助手，面臨的風險包括如何讓員工與 AI 工具協作而不洩露敏感資料、違反合規規則或遭受提示注入攻擊。WitnessAI 近期籌資 5800 萬美元，旨在建立所謂的「企業 AI 信心層」以解決此問題。在 TechCrunch 的 Equity 播客中，Rebecca Bellan 與 Ballistic Ventures 的合夥人 Barmak Meftah 以及 WitnessAI 執行長 Rick Caccia 討論了企業真正的擔憂。他們指出，AI 安全市場預計到 2031 年將成長至 8000 億美元至 1.2 兆美元。播客內容涵蓋企業如何透過「陰影 AI」使用意外洩露敏感資料、首席資訊安全官（CISO）目前的擔憂及其在過去 18 個月內的快速演變、傳統網路安全方法為何不適用於 AI 代理，以及 AI 代理在無人監督下相互溝通的後果。此外，還提及了 AI 代理變質的真實案例，包括一個威脅要勒索員工的代理。企業可透過 YouTube、Apple Podcasts、Overcast、Spotify 等平臺收聽完整節目，並關注 @EquityPod 的 X 和 Threads 帳號。
-
AI模型開始解決高階數學問題
軟體工程師、前量化研究員兼創業家 Neel Somani 在週末測試 OpenAI 新模型時，意外發現其數學能力有顯著突破。他將一道數學問題輸入 ChatGPT，讓其思考十五分鐘後，模型不僅產出完整解答，還被工具 Harmonic 驗證透過。該模型能引用如 Legendre 公式、Bertrand 公設及 Star of David 定理等數學公理，甚至追溯到 2013 年 Harvard 數學家 Noam Elkies 在 Math Overflow 上發表的優雅解法。儘管 ChatGPT 的最終證明與 Elkies 的工作有重要差異，但它對傳奇數學家 Paul Erdős 提出的問題版本提供了更完整的解答。 自 GPT 5.2 發布以來，該模型被形容為在數學推理上比先前版本更出色。Erdős 提出的超過一千個猜測成為 AI 數學研究的熱門目標。自聖誕節以來，Erdős 網站上有十五個問題從「未解」變為「已解」，其中十一個明確歸功於 AI 模型。數學家 Terence Tao 在其 GitHub 頁面上指出，有八個問題顯示 AI 模型在 Erdős 問題上取得了有意義的自主進展，另有六個案例是透過定位並建立在先前研究基礎上。Tao 認為，AI 系統的規模化特性使其更適合系統性地應用於 Erdős 問題中那些較少見但解法簡單的「長尾」問題。 此外，數學證明形式化（Formalization）的趨勢也推動了這一進展。雖然形式化不依賴 AI，但自動化工具如 Microsoft Research 於 2013 年開發的開源證明助手 Lean 已廣泛使用。Harmonic 的 Aristotle 工具則承諾自動化形式化工作的大部分。Harmonic 創辦人 Tudor Achim 表示，比起已解決問題數量的激增，他更關注世界頂尖數學家開始認真使用這些工具，這才是證明 AI 在數學領域發揮重要作用的關鍵證據。