當AI開始自我建構時會發生什麼事？

理查德·索克（Richard Socher）已加入位於舊金山的 AI 新創公司 Recursive Superintelligence，該公司於週三正式推出並獲得 6.5 億美元融資。索克此前以創立聊天機器人公司 You.com 及 ImageNet 專案聞名，此次與彼得·諾維格（Peter Norvig）及 Cresta 共同創辦人蒂姆·史（Tim Shi）等知名 AI 研究人員共同創立此公司。團隊目標是開發具有遞迴自我改進能力的超級智慧模型，該模型能自主識別自身弱點並進行重設計，無需人類介入，這被視為當代 AI 研究的聖杯。索克在訪談中強調，團隊的獨特方法在於利用「開放性」（open-endedness）來實現遞迴自我改進，而非僅僅是自動研究。他引用了前 Google DeepMind 共同創辦人蒂姆·羅克塔謝爾（Tim Rocktäschel）所開發的「Genie 3」世界模型作為開放性的範例。團隊還提出了「彩虹隊」（rainbow teaming）概念，類似於資訊安全中的紅隊測試，但讓兩個 AI 相互對抗並共同進化，以增強系統安全性。索克表示，遞迴自我改進（RSI）可能永遠不會完成，因為智慧可以不斷提升。他認為大型實驗室尚未以不同方式接近此目標，而 Recursive 團隊專注於開放性概念，並擁有十年研究經驗及推出產品的記錄。索克指出，團隊不僅僅是實驗室，更希望成為一家能創造受歡迎產品並對人類產生正面影響的可行公司，預計產品將在數個季度內推出。他進一步指出，一旦實現此係統，運算能力將成為唯一關鍵資源，人類將面臨如何分配運算資源以解決癌症、病毒等問題的資源配置挑戰。