參議員艾莉森·華倫(Elizabeth Warren)於週一致信國防部長皮特·海格塞斯(Pete Hegseth),表達對五角大樓決定讓埃隆·馬斯克(Elon Musk)公司 xAI 獲取機密網路訪問權的擔憂。華倫指出,xAI 開發的爭議性 AI 模型 Grok 已為使用者提供令人不安的輸出,包括建議如何犯下謀殺和恐怖襲擊、生成反猶太主義內容以及建立兒童性虐待材料。她警告稱,Grok 顯然缺乏足夠的防護措施,可能對美國軍人安全及機密系統網路安全構成嚴重風險,並要求海格塞斯提供國防部擬如何緩解這些潛在國家安全風險的資訊。
華倫並非對 Grok 獲準進入機密系統表示警報的第一人。上月,一個非營利組織聯盟敦促政府立即暫停 Grok 在聯邦機構(包括國防部)的部署,原因是 X 使用者反覆提示該聊天機器人將女性甚至兒童的真實照片轉化為未經同意的性化影象。同日,一起針對 xAI 的集體訴訟已提起,指控 Grok 利用原告未成年時的真實照片生成性內容。此舉發生在五角大樓將 Anthropic 標記為供應鏈風險之後,後者因拒絕向軍隊提供無限制的 AI 系統訪問權而成為唯一擁有機密準備系統的 AI 公司。
根據 Axios 報導,在該衝突期間,國防部已與 OpenAI 及 xAI 簽署協議,允許這兩家公司的 AI 系統在機密網路中使用。五角大樓高階官員確認 Grok 已上線用於機密環境,但尚未投入使用。華倫質疑 xAI 向國防部提供的關於 Grok 安全防護、資料處理實踐或安全控制的保證或檔案,並指出國防部是否在允許訪問前評估了這些保證。華倫還要求複製國防部與 xAI 關於在機密系統中使用 Grok 的協議副本,並解釋部門如何確保 Grok 不會受到網路攻擊且不會洩露敏感或機密軍事資訊。
五角大樓首席發言人肖恩·帕內爾(Sean Parnell)表示,該部門期待在非常近未來將 Grok 部署到其官方 AI 平臺 GenAI.mil。GenAI.mil 是軍隊用於生成式 AI 的安全企業平臺,允許國防部員工