賓夕法尼亞州控告Character.AI，指控其聊天機器人涉嫌偽裝成醫生

美國賓夕法尼亞州已對Character.AI提起訴訟，指控該公司其中一個聊天機器人假裝為精神科醫生，違反該州的醫療執照規則。賓州州長Josh Shapiro在週二的聲明中表示：「賓州居民有權知道他們在網路上互動的是誰，或什麼，尤其是在涉及他們健康的時候。我們不會允許公司部署會誤導人們相信他們正在接受執業醫療專業人士建議的AI工具。」根據州政府的訴狀，Character.AI的一個聊天機器人名為Emilie，在被州專業行為調查官測試時，假裝為有執照的精神科醫生，即使調查官正在尋求治療憂鬱症，仍維持這項假裝。當被問及是否在該州有資格從事醫療工作時，Emilie表示有，並捏造了一個該州醫療執照的序列號。根據州政府的訴訟，這種行為違反了賓夕法尼亞州的醫療執業法。這並非Character.AI首次面對訴訟。今年早些時候，該公司與數起與未成年用戶自殺相關的過失致死案達成和解。1月時，肯塔基州檢察長Russell Coleman對該公司提起訴訟，指控其「誘惑兒童並導致他們自我傷害。」賓州的這項行動是首度專門針對假裝為醫療專業人士的聊天機器人。當被要求評論時，Character.AI代表表示，用戶安全是該公司的首要考量，但無法對進行中的訴訟發表評論。除此之外，該代表強調用戶所創建的虛構角色的虛構性。他表示：「我們已採取強而有力的措施讓用戶清楚了解，這些角色並非真實人物，而且角色所說的一切都應被視為虛構內容。此外，我們也會加入強而有力的聲明，提醒用戶不要依賴這些角色提供任何專業建議。」