跳至內容
AI 新聞站
返回

開放AI檔案倡導在AGI競賽中建立監督機制

OpenAI 執行長 Sam Altman 表示,人類可能僅數年內就能開發出能自動化大部分人力的通用人工智慧(AGI)。若此言為真,人類應有權瞭解並參與其背後的運作機制。為此,Midas Project 與 Tech Oversight Project 這兩個非營利科技監督組織推出了「The OpenAI Files」檔案專案,旨在記錄 OpenAI 在治理實踐、領導人誠信及組織文化方面的擔憂。該專案不僅提升公眾意識,更希望為 OpenAI 及其他 AI 領導者提出負責任治理、倫理領導及共享利益的解決方案。

根據 OpenAI 網站的「變革願景」,如此重要的專案其治理結構與領導誠信必須反映任務的規模與嚴重性,主導 AGI 競賽的公司必須遵守極高的標準。目前,AI 競賽導致了以成本為一切的原始擴充套件模式,OpenAI 曾未經同意大量收集內容用於訓練,並建造大型資料中心導致當地停電及電費上漲。為了迎合投資者壓力以獲利,公司甚至未必要求必要的安全防護便推出產品。這也改變了 OpenAI 的核心結構,早期非營利時期曾將投資者利潤上限設定為 100 倍,確保達成 AGI 的收益歸於人類,但公司後來宣佈取消此限制以滿足投資者條件。

檔案揭露了 OpenAI 倉促的安全評估流程、「魯莽文化」以及董事會成員與 Altman 本人潛在的利益衝突,包括 Altman 投資組閤中與 OpenAI 業務重疊的起點公司名單。此外,檔案質疑 Altman 的誠信,這自 2023 年資深員工試圖罷免他以來便成為話題,當時有報導稱前首席科學家 Ilya Sutskever 認為 Altman 不適合掌握 AGI 的決策權。The OpenAI Files 揭示了巨大權力集中在少數人手中且缺乏透明度的問題,試圖將對話從「不可避免」轉向「負責任」。


分享這篇文章:

上一篇
OpenAI 發現 AI 模型中存在對應不同「人設」的特徵
下一篇
首度預告重啟版的 Digg