分類: 觀點與分析
「觀點與分析」分類的 AI 新聞與論文。
-
米拉·穆拉蒂重新進入聚光燈下，謹慎行事
OpenAI 技術長 Mira Murati 在擔任 Thinking Machines Lab 執行長期間，首次於四週在舊金山接受彭博社專訪，這是她約十八個月來首次重大媒體亮相。此次訪談背景是 AI 領域競爭激烈，OpenAI、Anthropic 以及 Elon Musk 的 xAI 均高度關注。Murati 介紹了 Thinking Machines 開發的「互動模型」，該模型旨在處理連續的音訊、文字與影片流，時間間隔為 200 毫秒，以捕捉人類溝通中的中斷、修正與停頓，而非傳統的輪詢式互動。她強調這僅是初步階段，未公佈具體上市日期。 Murati 回顧了 2023 年 11 月 OpenAI 董事會解僱 Sam Altman 並由她暫代執行長的事件，稱其為「閃電」。她表示當時保護使命與團隊是首要考量，認為公司若非她的介入可能已崩潰。然而，她承認事後應更積極推動資訊透明與過渡計畫。她未直接評論結果，但指出產業過度集中決策權，缺乏結構性制衡，並認為過度關注道德而忽視治理是問題所在。針對 Thinking Machines 近期多名高階研究人員離職，Murati 解釋這是從零建立前沿實驗室常見的組織波動，並指出薪酬雖具吸引力，但非唯一因素。最後，她對 AI 未來持謹慎態度，認為既非必然的烏託邦也非反烏託邦，取決於人類是否及時掌握主導權。
-
解析AI幻覺議題的爭議
Box 創辦人 Aaron Levie 在社交媒體上提出，科技執行長對人工智慧（AI）的反應可能過於狂熱，他認為這類領導者容易陷入「AI 精神病」，因為他們往往距離實際產生價值的末端工作過遠。TechCrunch 的 Equity 播客節目中，主持人 Anthony Ha、Sean O'Kane 與 Kirsten Korosec 探討了這一觀點。他們指出，Levie 並非否定 AI 工具，而是強調執行長必須實際使用這些工具以理解其運作。這種懷疑態度與當前更廣泛的反對浪潮形成對比，包括大學畢業生對 AI 的抵制、科技業裁員帶來的負面情緒，以及 Google 宣佈加強搜尋體驗中的 AI 功能後，搜尋引擎 DuckDuckGo 安裝量激增 30% 的現象。 節目中討論了 Google 面臨的困境：為了保持競爭力而追隨潮流，卻可能損害使用者最重視的品牌核心價值，例如資訊檢索功能。有評論指出 Google 甚至無法正確回答「Google 中有幾個 P」，顯示其對自身品牌本質的迷失。這種趨勢促使部分使用者轉向其他服務，但也為新興企業提供了機會。例如，DuckDuckGo 現在明確強調其反 AI 立場，將 AI 功能隔離在獨立沙盒中，不影響核心搜尋體驗。 此外，播客還探討了 AI 對工作環境的影響。雖然裁員問題顯著，但 AI 也在改變人們的工作方式。在軟體開發領域，直接編寫程式碼的職位受到衝擊，而在實體基礎設施、製造業和機器人技術方面，AI 的應用則相對較慢但正在加速。Anthony Ha 提到，許多企業對 AI 生產力提升的樂觀預期可能過於理想化，若執行長不深入理解工具如何實際運作，便難以判斷其真實價值。整體而言，這場關於 AI 的辯論反映了技術發展與社會接受度之間的張力，以及未來職場變革的不確定性。
-
cognition 的 scott wu 表示 ai 程式代理不应取代人類
Cognition 執行長 Scott Wu 本週再次成為焦點，其兩歲大的 AI 程式設計代理公司 Cognition 以 260 億美元估值籌資 10 億美元。Cognition 是 Devin 的開發者，被視為首批且最成功的 AI 程式設計代理之一。Wu 表示，Devin 能夠自然地完成端到端的任務，公司願景是轉向「自駕軟體開發」的世界。針對 Devin 是否能取代中階 L4 程式員的問題，Wu 明確表示從未考慮過取代人類，並強調不希望程式設計員失去工作。他自稱九歲開始程式設計，並被稱為史上最傑出的兒童競賽程式員之一，曾在二年級時贏得全國七年級數學比賽。Wu 認為開發 Devin 的初衷是將其視為協助人類建立更多軟體的夥伴，而非替代者。 Cognition 宣稱 Devin 在其公司內負責交付近 89% 的程式碼，其餘部分由去年收購的 AI 程式設計競爭對手 Windsurf 的本地代理完成。Wu 指出，代理的主要角色是處理許多程式員不願做的長尾維護任務，例如更新舊軟體或遷移應用程式平臺，從而讓人類從繁瑣工作中解放出來，專注於創造性部分。Wu 認為 AI 代理是另一層抽象，類似於視覺開發環境，旨在增強而非取代人類。他預見代理將進入客服、醫療等其他領域，但強調無論在哪個行業，最終決定權應始終掌握在人類手中。
-
RSI 是新的 AGI — 而且同樣難以界定
「遞迴」成為近期人工智慧領域的熱門詞彙，多家新創公司與研究機構正致力於開發能持續自我升級的系統，即遞迴自我改進（RSI）。這種概念被視為類似通用人工智慧（AGI）的災難性爆發預兆，指當 AI 系統能比人類更好地管理升級週期時，將形成閉環，僅受計算資源限制，人類將不再必要。知名研究者 Richard Socher 於本月啟動名為 Recursive Superintelligence 的專案，目標是構建大規模的遞迴自我改進超級智慧，實現從構想、實作到驗證的全自動流程。Andrej Karpathy 則透過 Auto-Research 專案，利用代理蜂群訓練大型語言模型，目前雖僅在 GPT-2 規模模型上進行小幅改進，但已吸引眾多研究者跟隨。Adaption 公司推出的 AutoScientist 工具旨在自動化前沿訓練，若研究者持續推動邊界，系統可能迅速演變為 RSI。Doris Xin 的自訓練機器學習代理在 Kaggle 競賽中獲得 28 枚獎牌，顯示了具體進展，但也凸顯了可靠性挑戰。儘管 Google CEO Sundar Pichai 承認尚未達到 RSI 描述的加速階段，但 Anthropic 的 Claude Code 已能撰寫其團隊近 100% 的程式碼，且部分工程師認為其可取代 L4 級程式員。然而，專家如 Georgetown 的 Helen Toner 指出，僅使用 AI 工具進行研究尚不構成真正的 RSI，關鍵在於是否完全無需人類。METR 的 Ajeya Cotra 將路徑分為「 adequacy」（ adequacy，系統移除人類後仍能產出工作）、「parity」（對等，AI 系統與人類系統產出同等品質）及「supremacy」（優越，AI 系統超越人類與 AI 協作），並預測 adequacy 階段可能已過或即將在未來幾年內達成。儘管基於縮放定律的趨勢讓人期待 RSI 會像以往一樣平滑發展，但工程與對齊挑戰巨大，且無無限計算資源可用。目前所有研究者共識是，如同 AGI 一樣，真正的遞迴 AI 系統尚未出現。