RSI 是新的 AGI — 而且同樣難以界定

「遞迴」成為近期人工智慧領域的熱門詞彙，多家新創公司與研究機構正致力於開發能持續自我升級的系統，即遞迴自我改進（RSI）。這種概念被視為類似通用人工智慧（AGI）的災難性爆發預兆，指當 AI 系統能比人類更好地管理升級週期時，將形成閉環，僅受計算資源限制，人類將不再必要。知名研究者 Richard Socher 於本月啟動名為 Recursive Superintelligence 的專案，目標是構建大規模的遞迴自我改進超級智慧，實現從構想、實作到驗證的全自動流程。Andrej Karpathy 則透過 Auto-Research 專案，利用代理蜂群訓練大型語言模型，目前雖僅在 GPT-2 規模模型上進行小幅改進，但已吸引眾多研究者跟隨。Adaption 公司推出的 AutoScientist 工具旨在自動化前沿訓練，若研究者持續推動邊界，系統可能迅速演變為 RSI。Doris Xin 的自訓練機器學習代理在 Kaggle 競賽中獲得 28 枚獎牌，顯示了具體進展，但也凸顯了可靠性挑戰。儘管 Google CEO Sundar Pichai 承認尚未達到 RSI 描述的加速階段，但 Anthropic 的 Claude Code 已能撰寫其團隊近 100% 的程式碼，且部分工程師認為其可取代 L4 級程式員。然而，專家如 Georgetown 的 Helen Toner 指出，僅使用 AI 工具進行研究尚不構成真正的 RSI，關鍵在於是否完全無需人類。METR 的 Ajeya Cotra 將路徑分為「 adequacy」（ adequacy，系統移除人類後仍能產出工作）、「parity」（對等，AI 系統與人類系統產出同等品質）及「supremacy」（優越，AI 系統超越人類與 AI 協作），並預測 adequacy 階段可能已過或即將在未來幾年內達成。儘管基於縮放定律的趨勢讓人期待 RSI 會像以往一樣平滑發展，但工程與對齊挑戰巨大，且無無限計算資源可用。目前所有研究者共識是，如同 AGI 一樣，真正的遞迴 AI 系統尚未出現。