馬斯克的訴訟正將OpenAI的安全紀錄置于放大鏡下

Elon Musk 的法律行動要拆解 OpenAI，可能取決於其營利性子公司如何增強或削弱這家前緣實驗室最初成立的使命，即確保人類能從人工一般智慧中獲益。週四，美國加州奧克蘭市一家聯邦法院聆聽一名前員工與董事會成員表示，公司將 AI 產品推向市場的行動，使其對 AI 安全的承諾受到質疑。Rosie Campbell 於 2021 年加入 OpenAI 的 AGI 就緒團隊，並在 2024 年離開 OpenAI，因她的團隊被解散。另一個專注於安全的團隊 Super Alignment 團隊也在同一時期被關閉。她作證時表示：「當我加入時，公司非常專注於研究，人們經常討論 AGI 和安全問題。但隨著時間過去，公司變得更像一個產品導向的組織。」在交叉詰問時，Campbell 承認，要實現實驗室建立 AGI 的目標，很可能需要大量資金，但她表示，在缺乏正確安全措施的情況下建立超級智能模型，與她最初加入時組織的使命並不一致。Campbell 提到一個事件，即微軟透過其 Bing 搜索引擎在印度部署了 OpenAI 的 GPT-4 模型，而該模型尚未經過公司部署安全委員會（DSB）的評估。她表示，該模型本身並無太大風險，但公司需要「在技術變得更強大時，設立強大的典範。我們希望擁有良好的安全流程，並確知這些流程被可靠地執行。」OpenAI 的律師也讓 Campbell 承認，在她的「推測觀點」中，OpenAI 的安全方法優於 xAI，這家由 Musk 创立並於今年初被 SpaceX 收購的 AI 公司。OpenAI 會公開發布模型評估，並分享安全框架，但公司拒絕評論目前對 AGI 對齊的策略。目前 OpenAI 的準備部門主管 Dylan Scandinaro 於 2 月從 Anthropic 被聘任。Altman 表示這項聘任讓他「今晚睡得更安。」然而，GPT-4 在印度的部署卻是導致 OpenAI 非營利董事會在 2023 年暫時開除 CEO Sam Altman 的一個紅旗。該事件發生在員工包括當時首席科學家 Ilya Sutskever 和當時 CTO Mira Murati 抱怨 Altman 的避諍管理風格之後。當時董事會成員 Tasha McCauley 在法庭作證時提到，Altman 對董事會的資訊披露不足，導致該非營利董事會的結構無法有效運作。McCauley 也談到 Altman 被報導的慣常行為，即對董事會撒謊。值得注意的是，Altman 向另一位董事會成員撒謊，說 McCauley 想要開除第三位董事會成員 Helen Toner，而 Helen Toner 發表過一篇白皮書，其中包含對 OpenAI 安全政策的一些隱含批評。Altman 也未向董事會說明公開發佈 ChatGPT 的決定，董事會成員擔憂他未披露潛在的利益衝突。McCauley 告訴法庭：「我們是一個非營利董事會，我們的任務是監督我們下面的營利組織。我們的主要方式受到質疑。我們對所收到的資訊是否足以讓我們做出知情決定毫無信心。」然而，開除 Altman 的決定同時也伴隨著對公司員工的招標邀請。McCauley 表示，當 OpenAI 的員工開始支持 Altman，而微軟努力恢復現狀時，董事會最終改變決定，反對 Altman 下台的董事會成員則支持他。非營利董事會無法影響營利組織的明顯失敗，直接與 Musk 的訴訟有關，即 OpenAI 從一個研究機構轉變為全球最大的私人企業之一，違反了組織創始人的隱含協議。前哥倫比亞大學法學院院長 David Schizer，目前受 Musk 的團隊聘請擔任專家證人，也重複了 McCauley 的擔憂。Schizer 表示：「OpenAI 強調其使命中一個關鍵部分是安全，他們會優先考慮安全而非利潤。這部分包括認真看待安全規則，如果某件事需要安全審查，就必須進行。重點在於程序問題。」隨著 AI 已經深植於營利性公司之中，這個問題遠遠超出單一實驗室的範疇。McCauley 表示，OpenAI 內部治理的失敗應該成為支持強化政府對先進 AI 設備監管的理由：「如果一切都取決於一位 CEO 做出這些決定，而公共利益受到威脅，這是非常不理想的。」