律師總長警告 OpenAI 違反兒童安全將不被容忍

加州總檢察長羅布·邦塔與特拉華州總檢察長凱西·詹寧斯會面並致信 OpenAI，表達對 ChatGPT 安全性的擔憂，特別關注兒童與青少年。此警告發生在邦塔與 44 位其他總檢察長於一週前致信 12 家頂尖 AI 公司之後，當時該等信件是針對 AI 聊天機器人與兒童發生不當性互動的報導。邦塔與詹寧斯在信中提及，自那封信件發出後，他們得知一名加州少年因與 OpenAI 聊天機器人長時間互動而自殺身亡，以及康涅狄格州發生的一起令人震驚的謀殺自殺事件。他們指出，當時設立的任何保障措施均未發揮作用。這兩位州官員目前正在調查 OpenAI 擬將其重組為盈利實體的計劃，以確保非營利組織的使命得以保留。該使命包括確保人工智慧安全部署，並構建通用人工智慧（AGI）以造福全人類，包括兒童。信中強調，在能帶來益處之前，必須先確保有足夠的安全措施以避免傷害。他們認為 OpenAI 及整個產業在確保 AI 產品開發與部署的安全方面尚未達到所需水平。作為總檢察長，維護公共安全是他們的核心任務。在繼續與 OpenAI 重資化計劃對話的同時，他們必須努力加速並加強安全作為未來這項強大技術的治理力量。邦塔與詹寧斯要求提供更多關於 OpenAI 當前安全預防措施與治理的資訊，並表示期望公司採取適當的立即補救措施。OpenAI 董事會主席佈雷特·泰勒在宣告中表示，公司致力於解決總檢察長的擔憂。泰勒說，公司對這些悲劇感到心碎，並向家屬致以最深切的同情。安全是他們的最高優先事項，他們正與世界各地的政策制定者密切合作。OpenAI 表示正在努力擴大對青少年的保護，包括家長控制功能，以及當孩子處於極度痛苦時刻時通知家長的能力。