跳至內容
AI 新聞站
返回

紐約通過法案預防AI引發的災難

紐約州立法機關於週四透過 RAISE 法案,旨在防止 OpenAI、Google 和 Anthropic 等前沿 AI 模型導致災難性後果,包括造成超過 100 人死亡或受傷,或造成超過 10 億美元的損失。該法案的透過被視為 AI 安全運動的勝利,因為過去幾年矽谷和特朗普政府曾優先追求速度與創新,導致安全議題退步。諾貝爾獎得主傑弗裡·辛頓和 AI 研究先驅約書亞·本吉歐等安全倡導者支援此法案。若成為法律,這將建立美國首套法律強制性的前沿 AI 實驗室透明度標準。

該法案與加州曾遭總統否決的 SB 1047 法案有相似規定與目標,但紐約州參議員安德魯·古納德表示,他刻意設計此法案以避免寒蟬效應,不影響創業公司或學術研究者的創新。古納德指出,隨著技術快速演進,建立防護措施的視窗正迅速縮小,且專家認為這些風險極其可能發生。法案現已送交紐約州長凱西·霍楚爾,她可簽署、退回修訂或否決。若簽署生效,法案將要求全球最大 AI 實驗室發布詳細的安全與安全報告,並報告安全事件,如模型異常行為或惡意行為者竊取模型。若企業未達標,紐約州總檢察長可處以最高 3000 萬美元的民事罰款。

RAISE 法案旨在嚴格監管全球最大公司,無論其位於加州(如 OpenAI、Google)或中國(如 DeepSeek、Alibaba)。透明度要求適用於使用超過 1 億美元計算資源訓練且向紐約居民開放的 AI 模型。雖然與 SB 1047 相似,但該法案未要求開發者安裝「殺手開關」,也未追究後訓練前沿 AI 模型公司的關鍵危害責任。儘管如此,矽谷對紐約法案的反對聲浪顯著,部分業界人士批評此法案會損害美國利益。Anthropic 共同創辦人傑克·克拉克表示該法案可能對小型公司構成風險,但古納德認為這未切中要害。OpenAI、Google 和 Meta 未回應求證。立法者認為,考慮到紐約州擁有美國第三大 GDP,企業撤出該州缺乏經濟動


分享這篇文章:

上一篇
Google 據報將裁撤與 Scale AI 的合作關係
下一篇
克莱因在30億美元估值下獲得新一輪融資