跳至內容
AI 新聞站
返回

教皇的AI通諭其實並非關於AI

教宗若望保祿十四世於週一發表了首封通諭《偉大的人性》,主題為「在人工智慧時代守護個人」。這份長達兩百頁的檔案由教宗與 AI 公司 Anthropic 共同創辦人 Chris Olah 一同發表。教宗指出,雖然人工智慧是焦點,但他關注的問題如不平等、戰爭、民主衰退及權力集中等早已存在且更為普遍。教宗強調,由少數精英建立和管治的技術無法服務公共利益,因為權力集中會導致不透明、逃避公眾監督,並引發扭曲的發展、新依賴、排斥、操控與不平等。通諭特別指出,人工智慧傾向於放大那些已擁有經濟資源、專業知識和資料存取權者的權力,使精英能塑造資訊與消費模式、影響民主過程並引導經濟動態以符合自身利益。

這份通諭發表在總統唐納德·川普延遲簽署人工智慧行政命令之後,該命令本意是讓政府在模型發布前進行監管,據稱是受風險投資人和前白宮 AI czar David Sacks 的敦促。教宗呼籲人工智慧應由「明確標準和有效監管」引導,並基於受影響社群的參與。具體而言,教宗要求結束人工智慧軍備競賽,即企業和國家追求建立更強大演演算法和更大資料集以確保地緣政治或商業優勢的行為。教宗寫道,解除武裝意味著質疑技術權力自動賦予統治權的假設。

這些動態早於人工智慧。教宗利奧十三世於 1891 年發表的《新事》已處理工業革命時期的權力集中問題,但無需追溯那麼遠。例如,Elon Musk 收購 Twitter 並利用該平臺協助選舉川普,或科技精英向超級政治行動委員會投入數百萬美元以阻擋人工智慧監管,這些模式顯然啟發了教宗十四世的工作。教宗得出的結論是,今日人工智慧超現實的權力與能力使風險極大。Notre Dame 大學法學院教授 Paolo Carozza,身為宗座社會科學院成員及 Meta 監督委員會主席,告訴 TechCrunch,人工智慧驅動的誤資訊和深度偽造影像已「腐蝕我們辨識真假的能力,這對民主政治有重大後果」。此外,科技產業「收割和操控」人類資料的做法,對認知自由構成根本挑戰。


分享這篇文章:

上一篇
ClickUp 的大規模裁員告訴我們關於未來工作的什麼
下一篇
所有人皆正在實時應對AI安全議題 — 雖然連Google也不例外