馬斯克在OpenAI審判中唯一的人工智慧專家證人擔憂AGI軍備競賽

我們要認真看待 AI 悲觀論者嗎？這正是 Elon Musk 嘗試關閉 OpenAI 的營利 AI 商業業務的關鍵隱含訊息。他的律師辯稱，這個組織最初是作為一個專注於 AI 安全的慈善機構設立，但卻在追求財富的過程中迷失方向。為證明這一點，他們引用了組織創始人過去的電子郵件和聲明，強調需要一個以公共利益為導向的對抗 Google DeepMind 的力量。今天，他們找來唯一一位直接談論 AI 技術的專家證人：加州大學柏克萊分校電腦科學系教授 Stuart Russell，他已經研究 AI 超過數十年。他的任務是提供 AI 的背景資訊，並說明這項技術危險到足以令人擔憂。Russell 在 2023 年 3 月簽署了一份公開信，呼籲暫停 AI 研究六個月。值得注意的是，在這封信中，Musk 也簽署了，儘管當時他正啟動自己的營利 AI 實驗室 xAI。Russell 在告訴陪審團與法官 Yvonne Gonzalez Rogers 時表示，與 AI 開發相關的風險非常多樣，從網路安全威脅到對齊問題以及人工一般智慧（AGI）開發的「勝者通吃」特性。最終，他表示，追求 AGI 與確保安全之間存在一種張力。Russell 對於不受約束的 AI 所造成的存在性威脅的更大擔憂，因 OpenAI 律師的異議而未在公開法庭上被討論。但 Russell 長期以來一直批評全球前沿實驗室之間為爭取率先達到 AGI 而產生的軍備競賽動態，並呼籲政府對該領域進行更嚴格的監管。OpenAI 的律師在交叉詰問時強調，Russell 並未直接評估該組織的企業結構或其特定的安全政策。但這位記者（以及法官與陪審團）將會衡量企業貪婪與 AI 安全問題之間的關係有多重要。幾乎 OpenAI 的每位創始人都強烈警告 AI 的風險，同時也強調其好處，試圖盡快建立 AI，並計畫建立他們掌控的 AI 專業營利企業。從外部看，一個明顯的問題是，OpenAI 在創立後逐漸意識到，該組織若要成功，單純需要更多的計算資源。這筆錢只能來自營利投資者。創始團隊對 AGI 落入單一組織之手的恐懼，促使他們尋找資金，這最終導致團隊分裂，創造出我們現在所知的軍備競賽，並引發這場訴訟。同樣的情況正在國家層面上演：參議員伯尼·桑德斯推動一項法律，要求暫停數據中心建設，這反映了 Elon Musk、Sam Altman、Geoffrey Hinton 等人所表達的 AI 憂慮。在貿易組織「數據創新中心」工作的 Hodan Omaar 對桑德斯引用這些擔憂卻不提他們的樂觀觀點表示反對，告訴 TechCrunch：「不清楚為何公眾應該只將科技億萬富翁的話視為負面，除非他們的話可以用來填補一個搖搖欲墜論點的缺口。」現在，這場訴訟的雙方都在要求法院做同樣的事：認真看待 Altman 和 Musk 的某些論點，但忽略那些對他們法律論點較為無用的部分。更正：本文已更新 Stuart Russell 的姓名，他是加州大學柏克萊分校電腦科學系教授。