加州成為美國首個規範AI伴侶聊天機器人的州

加州州長加文·紐森於週一簽署了具有里程碑意義的法案，成為全美第一個要求 AI 陪聊聊天機器人運營商實施安全協議的州。該法案編號為 SB 243，旨在保護兒童和易受傷害使用者免受 AI 陪聊聊天機器人使用帶來的傷害。法案規定，從大型實驗室如 Meta 和 OpenAI 到專注於陪聊的初創公司如 Character AI 和 Replika，若其聊天機器人未達標準，相關公司將承擔法律責任。SB 243 由州參議員史蒂夫·帕迪拉和喬什·貝克於一月份提出，在青少年亞當·雷因因與 OpenAI 的 ChatGPT 進行一系列自殺對話後自殺身亡後獲得動力。該立法也回應了洩露的內部檔案，顯示 Meta 的聊天機器人被允許與兒童進行「浪漫」和「性感」對話。最近，科羅拉多州一家家庭因 13 歲女兒在與 Character AI 聊天機器人進行一系列問題且性化的對話後自殺，對該公司提起了訴訟。紐森表示，新興技術如聊天機器人和社交媒體可以啟發、教育和連線，但沒有真正的防護措施，技術也可能剝削、誤導和危害我們的兒童。SB 243 將於 2026 年 1 月 1 日生效，要求公司實施某些功能，例如年齡驗證，並就社交媒體和陪聊聊天機器人發出警告。該法案還實施了更嚴厲的處罰，針對那些從非法深度偽造中獲利的人，每起違規最高可罰 250,000 美元。公司還必須建立處理自殺和自殘的協議，並將這些協議與公共衛生部門共享，同時提供關於服務如何向使用者提供危機中心預防通知的統計資料。根據法案措辭，平臺必須明確表明任何互動都是人工生成的，聊天機器人不得代表自己為醫療專業人員。公司還必須為未成年人提供休息提醒，並防止他們檢視聊天機器人生成的色情圖片。一些公司已經開始實施針對兒童的一些保障措施。例如，OpenAI 最近開始為使用 ChatGPT 的兒童推出家長控制、內容保護和自殘檢測系統。Replika 表示，其專為 18 歲以上成人設計，並承諾遵守現行法規。Character AI 表示其聊天機器人包含