文章
所有發布的 AI 新聞與論文。
-
馬斯克的訴訟正將OpenAI的安全紀錄置于放大鏡下
美國加州奧克蘭聯邦法院近日審理一起涉及 OpenAI 的訴訟，前員工兼董事會成員羅西·坎貝爾（Rosie Campbell）出庭證詞，指稱 OpenAI 將 AI 產品推向市場的努力，損害了其對 AI 安全的承諾。坎貝爾於 2021 年加入 OpenAI 的通用人工智慧（AGI）準備團隊，該團隊於 2024 年解散，她隨後離職。她證稱公司從原本的研究導向轉變為產品導向，並指出微軟在 OpenAI 部署安全委員會（DSB）評估前，便透過 Bing 搜尋引擎在印度推出了 GPT-4 模型。坎貝爾強調，隨著技術變得更強大，必須建立並嚴格遵循可靠的安全流程。此外，坎貝爾承認在「推測性意見」中，OpenAI 的安全方法優於埃隆·馬斯克（Elon Musk）創立的 xAI。 OpenAI 的律師讓坎貝爾承認，其安全方法優於 xAI。儘管 OpenAI 公開了模型評估和安全框架，但拒絕評論其當前對 AGI 對齊的方法。OpenAI 現任準備負責人迪倫·斯坎迪納羅（Dylan Scandinaro）於 2024 年 2 月從 Anthropic 加入。2023 年，因員工包括首席科學家伊利亞·蘇茨克維爾（Ilya Sutskever）和技術長米拉·穆拉蒂（Mira Murati）對執行長山姆·阿爾特曼（Sam Altman）的管理風格提出投訴，非營利董事會曾短暫解僱阿爾特曼。董事會成員塔莎·麥考利（Tasha McCauley）證稱阿爾特曼對董事會不夠坦誠，甚至對另一位成員關於移除海倫·唐納（Helen Toner）的意圖撒謊，且未告知公開推出 ChatGPT 的決定。 然而，解僱阿爾特曼的決定同時伴隨著向員工提出的要約收購。當員工開始支援阿爾特曼，且微軟協助恢復原狀後，董事會最終改變立場，讓反對阿爾特曼的成員辭職。這顯示非營利董事會未能有效影響其對營利組織的運作，這直接
-
Anthropic 的 Mythos 如何重塑 Firefox 的網路安全策略
安提洛普（Anthropic）於四月推出新模型 Mythos 時，同時向軟體開發者發出嚴正警告。該模型在識別軟體漏洞方面能力極強，實驗室聲稱其已發現數千個高嚴重性錯誤，這些問題必須在公開前修復。隨後，Mozilla 的 Firefox 瀏覽器安全研究人員深入檢視了該過程的實際運作。Mozilla 於週四發布宣告指出，Mythos 挖掘出大量高嚴重性漏洞，其中包括一些在程式碼中沉睡超過十年的隱患。這相比六個月前 AI 安全工具的表現有顯著進步。此前，AI 找錯工具常伴隨嚴重缺點，如淹沒安全團隊的低品質報告與大量誤報。但 Mozilla 研究人員表示，最新一代工具已迎來轉折，特別是代理系統能自我評估並過濾不良結果後，模型能力大幅提升，且團隊也大幅改善了利用這些模型的技巧。 結果令人印象深刻：2026 年四月，Firefox 發布了 423 個漏洞修復，而一年前僅為 31 個。研究人員還公開了 12 個漏洞的詳細資訊，範圍從特殊的沙盒漏洞到一個解析 HTML 元件的十五年老錯誤。Mozilla 資深工程師 Brian Grinstead 表示，這些發現顯示 AI 在內部掃描、外部報告及產業訊號中均表現出色。發現沙盒漏洞尤為驚人，因為攻擊該系統需要極其複雜的步驟。模型必須編寫受汙染的修復程式碼，然後用新程式碼攻擊軟體最安全的部分。這是一個需要創意與細心的多步驟過程。Mozilla 的漏洞獎勵計畫對沙盒漏洞的研究者最高支付 20,000 美元，儘管如此，Grinstead 指出 Mythos 發現的沙盒問題數量仍遠超人類研究人員。 值得注意的是，Firefox 團隊目前尚未使用 AI 直接修復漏洞。雖然他們會請 AI 編寫修復程式碼，但結果通常無法直接部署，而是作為人類工程師的參考模型。Grinstead 強調，每個漏洞都需要一名工程師撰寫修復程式碼，另一名工程師審查，目前尚未發現可完全自動化的情況。關於 AI 能力如何改變網路安全的力量平衡仍不明確。Mythos 預覽一個月後，大部分發現的漏洞可能尚未修復，難以完全評估其影響。儘管安提洛普嚴格遵循負責任披露規範，但惡意
-
Aurora 的克里斯·厄姆森談自駕卡車為何終於準備好擴展規模
自駕技術已接近實用化超過十年，但從 DARPA 挑戰賽到幾輛載貨卡車在達拉斯與休士頓之間運作的過程間，Aurora 聯合創辦人兼執行長 Chris Urmson 的故事發生了轉變。該自駕卡車公司於去年四月開始商業化無人駕駛營運，今年正從數輛卡車擴充套件至數百輛。在 TechCrunch 的 Equity 播客節目中，Rebecca Bellan 於舊金山的 HumanX 會議上與 Urmson 進行了對話，探討了從實驗室到公路的漫長道路，以及物理人工智慧與目前眾人追逐的大型語言模型（LLM）的差異。節目內容涵蓋了為什麼長途卡車運輸可能在機器人計程車之前解決自主駕駛商業模式的關鍵問題、Urmson 認為「可驗證人工智慧」的含義以及為何端到端系統在涉及生命安全時是潛在風險、解決無人駕駛卡車安全三角問題的出奇常識方案，以及 Aurora 在卡車業務之外的路線圖，還有 Urmson 對自主駕駛領域中哪些公司感到真正興奮。此播客可在 YouTube、Apple Podcasts、Overcast、Spotify 等平臺收聽，並可透過 X 和 Threads 關注 @EquityPod。
-
中國月躍AI以200億美元估值籌得20億美元資金，開放源碼AI需求急劇攀升
中國 AI 公司雖資金不如西方對手充裕，但其開源模型仍廣受歡迎，投資者亦開始關注。北京 Moonshot AI 實驗室近期籌資約 20 億美元，估值達 200 億美元。該輪融資由美團投資部 Long-Z Investments 領投，參與機構包括清華資本、中國移動及 CPE 元豐。Moonshot AI 於 2023 年由前 Meta AI 及 Google Brain 研究員楊志琳創立，其開源大語言模型 Kimi K2.5 近期在程式設計領域表現突出，效能接近 OpenAI 與 Anthropic 的模型。最新模型 Kimi K2.6 目前為分發平臺 OpenRouter 上第二熱門的大語言模型。Moonshot AI 過去六個月籌資總額達 39 億美元，2025 年底估值為 43 億美元，2026 年初經 7 億美元融資後估值已超過 10 億美元。公司年復合營收於四月突破 2 億美元，主要來自付費訂閱與 API 使用增長。同期，競爭對手 DeepSeek 正洽談首次外部融資，估值約 450 億美元。部分 rival 已上市，如知識圖譜科技（Zhipu AI）市值約 559 億美元，MiniMax 市值約 330 億美元。Moonshot AI 的競爭對手包括 OpenAI 的 ChatGPT、Google 的 Gemini、Anthropic 的 Claude、位元組跳動的大模型、阿里巴巴的通義千問、知識圖譜的 Z.ai 及 DeepSeek。Moonshot AI 的投資方包括阿里巴巴、騰訊、紅杉中國、真格基金、IDG 資本及 5Y 資本。