過去兩週，Anthropic 執行長 Dario Amodei 與國防部長 Pete Hegseth 因軍事部門使用人工智慧（AI）的議題展開激烈對峙。Anthropic 堅決反對其 AI 模型用於大規模監控美國民眾或開發無需人類介入的自主武器系統。然而，Hegseth 主張國防部不應受供應商規則限制，認為任何「合法用途」的技術應用皆應被允許。週四，Amodei 公開表示公司不會退讓，儘管面臨被列為供應鏈風險的威脅。
這場爭論的核心在於誰能控制強大 AI 系統——是開發公司還是希望部署它們的政府。Anthropic 擔憂其模型被用於大規模監控或自主武器，因為傳統國防承包商對產品用途缺乏說服力，但 Anthropic 自成立以來便認為 AI 具有獨特風險，需要特殊防護。美國軍事已依賴高度自動化系統，雖然致命武力決策 historically 由人類做出，但法律對自主武器的限制極少。根據 2023 年國防部（DoD）指令，AI 系統可在符合標準並經高階官員審查後，無需人類幹預選定並擊殺目標。這正是 Anthropic 感到不安之處，因為軍事技術具有保密性，若軍事部門自動化致命決策，可能直到系統運作時才知情。若使用 Anthropic 模型，這可能被視為「合法用途」。
Anthropic 並非完全反對未來使用，而是認為其模型目前尚不足以安全支援這些應用。若將能力較弱的 AI 置於武器系統中，可能導致誤判目標、升級衝突或做出不可逆的致命決定。此外，AI 能大幅強化對美國公民的合法監控，透過自動化大規模模式識別、實體解析、預測風險評分及持續行為分析，改變現有監控格局。
五角大樓主張應能部署 Anthropic 技術於其認為必要的任何合法用途，而非受內部政策限制。發言人 Sean Parnell 表示，國防部無意進行大規模國內監控或部署自主武器，但要求允許使用模型的所有合法目的，以免危及軍事運作。Parnell 稱 Anthropic 需在週五下午 5:01 美國東部時間前做出決定，否則將終止合作並將其視為供應鏈風險。Hegseth 的擔憂有時似乎與文化訴求相關，他曾批評「woke AI」，強調國防戰爭 AI 不應