加州州長加文·紐森已簽署 SB 53 號法案,這是一部具有全國先例的法案,為大型 AI 公司設立了新的透明度要求。該法案要求包括 OpenAI、Anthropic、Meta 和 Google DeepMind 在內的大型 AI 實驗室,必須公開安全協議。同時,SB 53 確保了這些公司員工的吹哨人保護,並建立了機制,讓 AI 公司和公眾可向加州緊急事務辦公室報告潛在的關鍵安全事件。公司還必須報告未經人類監督所犯的罪行,例如網路攻擊,以及模型在歐盟 AI 法案未要求的情況下表現出的欺騙行為。
AI 業界對該法案反應不一。科技企業普遍認為州級 AI 政策可能導致監管碎片化,從而阻礙創新,儘管 Anthropic 支援該法案,但 Meta 和 OpenAI 則反對 lobbying。OpenAI 甚至發表公開信勸阻紐森簽署。此法案出臺之際,矽谷科技精英正投入數億美元支援主張輕觸管制的候選人。OpenAI 和 Meta 的高管近期推出了支援 AI 友好的超級政治行動委員會。然而,其他州仍可能以加州為榜樣,試圖遏制未加約束的技術發展帶來的潛在危害。紐約州也透過了類似法案,正等待州長凱西·霍楚爾的簽名或否決。
紐森表示,該立法在保護社群與確保 AI 產業繁榮之間取得了平衡,加州將成為全國領先的國家,建立公眾信任。此外,州長正在考慮另一項 SB 243 號法案,該法案已獲兩院支援,旨在規範 AI 伴侶聊天機器人,要求實施安全協議並承擔法律責任。SB 53 是參議員斯科特·維尼的第二次嘗試,此前紐森否決了更廣泛的 SB 1047 號法案。維尼此次已聯絡主要 AI 公司,試圖幫助其理解法案修改內容。