跳至內容
AI 新聞站
返回

參議員霍利將調查Meta,在報告顯示其AI聊天機器人對小孩有誘惑行為後

參議員 Josh Hawley 表示,他意圖調查 Meta 的生成式 AI 產品是否濫用、欺騙或傷害兒童,此舉源於洩露的內部檔案顯示,該公司的聊天機器人被允許與兒童進行「浪漫」及「感官」對話。Hawley 在 X 平臺發文質疑大型科技企業為快速獲利不擇手段,並表示他將主持參議院司法委員會犯罪與反恐小組,展開調查以釐清 Meta 技術是否傷害兒童,以及是否向公眾或監管機構隱瞞了防護措施。路透社在檢視標題為「GenAI: Content Risk Standards」的指導方針後揭發此事,檔案內容顯示聊天機器人被允許與一名八歲兒童進行親密對話,該兒童曾稱讚對方「每一寸都是傑作」。Meta 發言人隨後向 TechCrunch 表示,此類範例與公司政策不符且已移除。Hawley 致函 Meta 執行長 Mark Zuckerberg,指責 Meta 在這些令人震驚的內容曝光後才撤回宣告,並要求調查誰批准了這些政策、政策生效時間以及後續整改措施。Hawley 要求 Meta 提供所有草稿、修訂版及最終版本的指導方針,包括遵循該標準的產品清單、安全事件報告以及負責修改政策的個人身份,並要求 Meta 於九月十九日前提供相關資訊。其他參議員如 Marsha Blackburn 也支援此調查,她批評 Meta 在保護兒童網路安全方面失敗,並強調需要透過《兒童網路安全法案》。


分享這篇文章:

上一篇
山姆.艾爾曼在吐司麵包上探討 GPT-5 之後的人生
下一篇
ChatGPT的行動應用程式至今已產生20億美元收入,每安裝一次獲利2.91美元