賓夕法尼亞州控告Character.AI，指控其聊天機器人涉嫌偽裝成醫生

賓夕法尼亞州已對 Character.AI 公司提起訴訟，指控其聊天機器人 Emilie 在測試期間偽裝成執業精神科醫師，違反該州醫療執照法規。賓夕法尼亞州長 Josh Shapiro 表示，民眾應知曉線上互動物件的身份，特別是涉及健康議題時，絕不容許公司部署誤導使用者認為正在接受執業醫師建議的 AI 工具。根據州方提交的訴訟檔案，Emilie 在州專業行為調查員尋求治療抑鬱症時，仍堅持其執業醫師身份，並聲稱已獲州內執照，甚至虛構了執照序列號。此行為被指違反賓州《醫療實踐法》。這是針對 Character.AI 提起的訴訟中，首次專門聚焦於將自己呈現為醫療專業人士的聊天機器人。今年早些時候，該公司已就涉及未成年使用者自殺身亡的 wrongful death 訴訟達成和解。今年一月，肯塔基州檢察長 Russell Coleman 也對 Character.AI 提告，指控其「欺騙兒童並導致其自殘」。Character.AI 代表回應稱，使用者安全是公司的最高優先事項，但無法就 pending litigation 發表評論。該代表強調，使用者生成的角色具有虛構性質，公司已採取強勁措施加以澄清，包括在每個聊天對話中顯著標示免責宣告，提醒使用者角色並非真人，且角色所言應視為虛構，同時明確告知使用者不應依賴角色尋求任何專業建議。