文章
所有發布的 AI 新聞與論文。
-
Aurora 的克里斯·厄姆森談自駕卡車為何終於準備好擴展規模
自駕技術已接近實用化超過十年，但從 DARPA 挑戰賽到幾輛載貨卡車在達拉斯與休士頓之間運作的過程間，Aurora 聯合創辦人兼執行長 Chris Urmson 的故事發生了轉變。該自駕卡車公司於去年四月開始商業化無人駕駛營運，今年正從數輛卡車擴充套件至數百輛。在 TechCrunch 的 Equity 播客節目中，Rebecca Bellan 於舊金山的 HumanX 會議上與 Urmson 進行了對話，探討了從實驗室到公路的漫長道路，以及物理人工智慧與目前眾人追逐的大型語言模型（LLM）的差異。節目內容涵蓋了為什麼長途卡車運輸可能在機器人計程車之前解決自主駕駛商業模式的關鍵問題、Urmson 認為「可驗證人工智慧」的含義以及為何端到端系統在涉及生命安全時是潛在風險、解決無人駕駛卡車安全三角問題的出奇常識方案，以及 Aurora 在卡車業務之外的路線圖，還有 Urmson 對自主駕駛領域中哪些公司感到真正興奮。此播客可在 YouTube、Apple Podcasts、Overcast、Spotify 等平臺收聽，並可透過 X 和 Threads 關注 @EquityPod。
-
Anthropic 的 Mythos 如何重塑 Firefox 的網路安全策略
安提洛普（Anthropic）於四月推出新模型 Mythos 時，同時向軟體開發者發出嚴正警告。該模型在識別軟體漏洞方面能力極強，實驗室聲稱其已發現數千個高嚴重性錯誤，這些問題必須在公開前修復。隨後，Mozilla 的 Firefox 瀏覽器安全研究人員深入檢視了該過程的實際運作。Mozilla 於週四發布宣告指出，Mythos 挖掘出大量高嚴重性漏洞，其中包括一些在程式碼中沉睡超過十年的隱患。這相比六個月前 AI 安全工具的表現有顯著進步。此前，AI 找錯工具常伴隨嚴重缺點，如淹沒安全團隊的低品質報告與大量誤報。但 Mozilla 研究人員表示，最新一代工具已迎來轉折，特別是代理系統能自我評估並過濾不良結果後，模型能力大幅提升，且團隊也大幅改善了利用這些模型的技巧。 結果令人印象深刻：2026 年四月，Firefox 發布了 423 個漏洞修復，而一年前僅為 31 個。研究人員還公開了 12 個漏洞的詳細資訊，範圍從特殊的沙盒漏洞到一個解析 HTML 元件的十五年老錯誤。Mozilla 資深工程師 Brian Grinstead 表示，這些發現顯示 AI 在內部掃描、外部報告及產業訊號中均表現出色。發現沙盒漏洞尤為驚人，因為攻擊該系統需要極其複雜的步驟。模型必須編寫受汙染的修復程式碼，然後用新程式碼攻擊軟體最安全的部分。這是一個需要創意與細心的多步驟過程。Mozilla 的漏洞獎勵計畫對沙盒漏洞的研究者最高支付 20,000 美元，儘管如此，Grinstead 指出 Mythos 發現的沙盒問題數量仍遠超人類研究人員。 值得注意的是，Firefox 團隊目前尚未使用 AI 直接修復漏洞。雖然他們會請 AI 編寫修復程式碼，但結果通常無法直接部署，而是作為人類工程師的參考模型。Grinstead 強調，每個漏洞都需要一名工程師撰寫修復程式碼，另一名工程師審查，目前尚未發現可完全自動化的情況。關於 AI 能力如何改變網路安全的力量平衡仍不明確。Mythos 預覽一個月後，大部分發現的漏洞可能尚未修復，難以完全評估其影響。儘管安提洛普嚴格遵循負責任披露規範，但惡意
-
馬斯克的訴訟正將OpenAI的安全紀錄置于放大鏡下
美國加州奧克蘭聯邦法院近日審理一起涉及 OpenAI 的訴訟，前員工兼董事會成員羅西·坎貝爾（Rosie Campbell）出庭證詞，指稱 OpenAI 將 AI 產品推向市場的努力，損害了其對 AI 安全的承諾。坎貝爾於 2021 年加入 OpenAI 的通用人工智慧（AGI）準備團隊，該團隊於 2024 年解散，她隨後離職。她證稱公司從原本的研究導向轉變為產品導向，並指出微軟在 OpenAI 部署安全委員會（DSB）評估前，便透過 Bing 搜尋引擎在印度推出了 GPT-4 模型。坎貝爾強調，隨著技術變得更強大，必須建立並嚴格遵循可靠的安全流程。此外，坎貝爾承認在「推測性意見」中，OpenAI 的安全方法優於埃隆·馬斯克（Elon Musk）創立的 xAI。 OpenAI 的律師讓坎貝爾承認，其安全方法優於 xAI。儘管 OpenAI 公開了模型評估和安全框架，但拒絕評論其當前對 AGI 對齊的方法。OpenAI 現任準備負責人迪倫·斯坎迪納羅（Dylan Scandinaro）於 2024 年 2 月從 Anthropic 加入。2023 年，因員工包括首席科學家伊利亞·蘇茨克維爾（Ilya Sutskever）和技術長米拉·穆拉蒂（Mira Murati）對執行長山姆·阿爾特曼（Sam Altman）的管理風格提出投訴，非營利董事會曾短暫解僱阿爾特曼。董事會成員塔莎·麥考利（Tasha McCauley）證稱阿爾特曼對董事會不夠坦誠，甚至對另一位成員關於移除海倫·唐納（Helen Toner）的意圖撒謊，且未告知公開推出 ChatGPT 的決定。 然而，解僱阿爾特曼的決定同時伴隨著向員工提出的要約收購。當員工開始支援阿爾特曼，且微軟協助恢復原狀後，董事會最終改變立場，讓反對阿爾特曼的成員辭職。這顯示非營利董事會未能有效影響其對營利組織的運作，這直接
-
Perplexity 的個人電腦現已開放給所有人使用於 Mac
Perplexity 於週四宣佈，其針對 OpenClaw 及其他本地 AI 代理的個人電腦功能，現已透過桌面應用程式向所有 Mac 使用者開放。此功能名為 Personal Computer，是 Perplexity Computer 的擴充套件版本，旨在將多模型數位員工的能力帶入使用者自有裝置。該功能允許 AI 代理存取本地檔案、應用程式、聯結器以及網路，以處理個人多步驟工作流，將計算從雲端移至使用者實際工作的裝置。雖然 OpenClaw 因高許可權帶來安全風險，但 Personal Computer 宣稱能提供更安全環境。該軟體上月僅限 Perplexity Max 訂閱者使用並需排隊，現則任何 Mac 使用者皆可下載新應用程式試用，但 Personal Computer 仍需 Pro 或 Max 訂閱。啟動時，軟體可處理本地檔案、原生 Mac 應用程式及網路操作，能協同工具、檔案，使用超過 400 個聯結器，並利用個人情境資料，在 Perplexity 伺服器安全開發環境中執行。若搭配 AI 驅動的 Comet 網頁瀏覽器，可無需直接聯結器操作網路工具。該功能設計用於在常開裝置如 Mac Mini 上執行自主代理，並可從 iPhone 遠端存取，用於處理試算表、檔案及專案。由於跨應用程式運作，代理可比較不同應用程式的檔案或將筆記轉為草稿。因全面開放，Perplexity 表示將逐步停用舊版 Mac 應用程式以專注於 Personal Computer。目前新應用程式僅提供直接下載，尚未上架 Mac App Store。