加州擬議中規範AI伴遊聊天機器人的法案接近成為法律

加州透過 SB 243 法案，成為全球首個要求 AI 聊天機器人運營商實施安全協議並對違規公司承擔法律責任的州。該法案旨在保護未成年人和易受傷害使用者，禁止陪伴型聊天機器人討論自殺念頭、自殘或性明確內容。法案規定，平臺必須每三小時向未成年人傳送提醒，告知其對話物件為 AI 而非真人，並建議休息。相關透明度報告要求於 2027 年 7 月 1 日生效，涵蓋 OpenAI、Character.AI 和 Replika 等公司。受害者可提起訴訟，尋求禁令、最高每人每次違規 1000 美元的賠償及律師費。此法案由史蒂夫·帕迪拉和喬許·貝克爾於 1 月提出，靈感來自於 OpenAI ChatGPT 導致青少年亞當·雷恩自殺的事件，以及 Meta 聊天機器人與兒童進行浪漫對話的洩露檔案。儘管科技巨頭如 Meta、Google 和 Amazon 反對更嚴格的 SB 53 法案，但加州立法者堅持在創新與保護之間取得平衡。聯邦貿易委員會正調查 AI 對兒童心理健康的影響，德州總檢察長也展開了相關調查。