美國總統特朗普於週五在 Truth Social 發文，指令所有聯邦機構立即停止使用由戴維·阿莫迪（Dario Amodei）於 2021 年共同創立的舊金山 AI 公司 Anthropic 的技術。國防部長皮特·海格塞斯（Pete Hegseth）隨後援引國家安全法，將 Anthropic 及其合作伙伴、承包商和供應商列入與五角大樓交易的黑名單。原因是阿莫迪拒絕允許該公司的技術用於美國公民的大規模監控，或用於能自主選擇並殺戮目標而無需人類介入的無人武裝無人機。此舉導致 Anthropic 面臨高達 2 億美元的合約損失，並可能被禁止與其他客戶合作，該公司已表示將挑戰五角大樓上訴。
麻省理工學院物理學家馬克斯·特格馬克（Max Tegmark）指出，開發更強大 AI 系統的競賽正超越全球治理能力。他於 2014 年創立未來生命研究所，並在 2023 年協助組織了一封由超過 33,000 人（包括埃隆·馬斯克）簽署的公開信，呼籲暫停先進 AI 開發。特格馬克認為 Anthropic 的危機源於其自身，並追溯至行業長期抵制監管。Anthropic、OpenAI、Google DeepMind 等公司曾承諾自我監管，但近期均背棄了安全承諾。例如，Anthropic 放棄了不釋放未經安全確認的強大 AI 系統的承諾；OpenAI 從使命宣告中刪除了「安全」一詞；xAI 關閉了整個安全團隊；Google 則放棄了「不要作惡」的口號及相關承諾。
特格馬克批評這些公司長期遊說反對 AI 監管，主張「信任我們，我們會自我監管」，導致美國目前對 AI 系統的監管少於對三明治店的衛生檢查。他警告這種監管真空可能導致類似沙利度胺或石棉等災難。針對「與中國競賽」的論點，特格馬克分析稱，中國已禁止 AI 女友，且中國共產黨極度重視控制，不會容忍 AI 推翻其政府。他認為不可控的超級智慧是國家安全威脅而非資產，並預測美國國家安全界將逐漸意識到這一點。
關於 AI 發展速度，特格馬克指出專家預測的 2040 或 2050 年才