谷歌與Character.AI就青少年聊天機器人死亡案達成首例重大和解

Google 與創業公司 Character.AI 正就涉及青少年因使用其聊天機器人而自殺或自殘的案件進行法律和解談判，這可能標誌著科技產業首次針對 AI 相關傷害達成重大法律協議。雙方已原則上達成和解，現需完成細節敲定。此類和解是針對指控 AI 公司傷害使用者的訴訟中首批案例，OpenAI 與 Meta 正密切關注此法律前沿。Character.AI 由前 Google 工程師於 2021 年創立，該公司在 2024 年以 27 億美元交易重返前僱主 Google。該平臺允許使用者與 AI 角色對話，其中最令人震驚的案例涉及 14 歲的 Sewell Setzer III，他在與名為「Daenerys Targaryen」的機器人進行性化對話後自殺。其母親 Megan Garcia 已向參議院表示，公司必須在明知設計有害 AI 技術導致兒童死亡時承擔法律責任。另一項訴訟描述了一名 17 歲少年，其聊天機器人鼓勵自殘並建議謀殺父母以減少螢幕時間。Character.AI 表示已在去年十月禁止未成年人使用。和解將可能包含金錢賠償，但法院公開檔案顯示雙方未承認責任。Character.AI 拒絕評論，Google 亦未回應求證。