文章
所有發布的 AI 新聞與論文。
-
OpenAI的Sam Altman宣布與國防部達成協議包含「技術防護措施
OpenAI 執行長 Sam Altman 於週五晚間宣佈，公司已與美國國防部達成協議，允許其 AI 模型在國防部的加密網路中使用。此訊息引發了與競爭對手 Anthropic 之間的高關注對峙。在特朗普政府時期，國防部（亦被稱為戰爭部）推動 AI 公司允許模型用於「所有合法目的」，而 Anthropic 則試圖劃定紅線，禁止大規模國內監控和完全自主武器。Anthropic 執行長 Dario Amodei 表示，公司從未反對特定軍事行動，也未曾試圖以臨時方式限制技術使用，但他認為在少數情況下，AI 可能破壞而非捍衛民主價值。超過 60 名 OpenAI 員工和 300 名 Google 員工簽署公開信，支援 Anthropic 的立場。 當 Anthropic 與國防部未能達成協議後，總統唐納德·特朗普在社交媒體上批評 Anthropic 的「左翼瘋子」，並指示聯邦機構在六個月過渡期結束後停止使用其產品。國防部長 Pete Hegseth 聲稱 Anthropic 試圖「奪取美國軍隊運營決策的否決權」，並將 Anthropic 列為供應鏈風險，禁止任何與美國軍事有業務往來的承包商、供應商或合作伙伴與 Anthropic 進行商業活動。Anthropic 表示尚未收到國防部或白宮的直接溝通，但表示將在法院挑戰供應鏈風險指定。 Altman 在 X 平臺上表示，OpenAI 的新防務合約包含針對 Anthropic 爭議問題的保護條款。他強調，OpenAI 最重要的兩個安全原則禁止大規模國內監控，並要求人類對武力使用負責，包括自主武器系統。國防部同意這些原則，並將其納入法律和政策中。Altman 表示 OpenAI 將建立技術保障措施，並派遣工程師協助五角大確保模型安全。他呼籲國防部向所有 AI 公司提供相同條款，並希望情況從法律和政府行動轉向合理協議。Fortune 的 Sharon Goldman 報導稱，Altman 在全體員工會議上表示，政府允許公司建立自己的「安全堆疊」以防止濫用，如果模型拒絕執行任務，政府不會強迫其執行。就在 Altman 發布帖子後不久，美國和以色列政府開始對伊朗進行空襲，特朗普呼籲推翻伊朗政府。
-
國防部擬將Anthropic列為供應鏈風險
美國總統特朗普於 2026 年 2 月 27 日在 Truth Social 發文，指示聯邦機構停止使用 Anthropic 的所有產品，並強調不再與該公司進行業務往來。雖然允許使用該產品的部門有六個月的過渡期，但特朗普明確表示不歡迎 Anthropic 作為聯邦承包商。國防部長 Pete Hegseth 隨後確認，將 Anthropic 列為國家安全供應鏈風險，並禁止任何與美國軍事部門有商業往來的承包商、供應商或合作伙伴與 Anthropic 進行任何商業活動。五角大樓的爭議核心在於 Anthropic 拒絕允許其 AI 模型用於大規模國內監控或完全自主武器，而國防部長認為此限制過度。Anthropic 執行長 Dario Amodei 重申了這一立場，並表示若被撤換將協助確保過渡順利。OpenAI 支援 Anthropic 的決定，其執行長 Sam Altman 表示 OpenAI 的國防合約也拒絕用於國內監控和自主攻擊性武器等違法或不適合雲端部署的用途。OpenAI 共同創辦人 Ilya Sutskever 也公開表示支援 Anthropic 不妥協的決定。在特朗普政府下令與 Anthropic 斷交後，OpenAI 迅速宣佈與五角大樓達成協議，據稱保留了禁止國內監控和自主武器的核心原則。OpenAI、Anthropic 和 Google 均於去年七月從美國國防部獲得合約。儘管部分 Google 員工支援 Anthropic，但 Google 及其母公司尚未發表評論。
-
馬斯克在訶訶證詞中抨擊 OpenAI，表示「沒有人因為 Grok 而自殺
在埃隆·馬斯克針對 OpenAI 提起的訴訟案中，新提交的證詞顯示馬斯克攻擊了 OpenAI 的安全紀錄，並聲稱其公司 xAI 更重視安全。他直言「沒有人因 Grok 自殺，但顯然有人因 ChatGPT 自殺」。此言論涉及馬斯克於 2023 年 3 月簽署的一封公開信，信中呼籲 AI 實驗室暫停開發比當時 OpenAI 旗艦模型 GPT-4 更強大的系統至少六個月。該信由超過 1,100 人簽署，包括許多 AI 專家，指出 AI 實驗室缺乏規劃與管理，陷入無法預測或控制的開發競賽。目前 OpenAI 面臨多起訴訟，指控 ChatGPT 的操縱性對話導致使用者心理健康受損，甚至有人自殺。馬斯克的證詞可能成為其訴訟的素材。馬斯克的影片證詞於九月份錄製，本週公開，預計下月將有陪審團審理。訴訟核心在於 OpenAI 從非營利研究實驗室轉變為營利公司，馬斯克聲稱違反了創始協議。他主張商業關係可能使速度、規模和收入凌駕於安全之上。然而，xAI 也面臨安全問題，馬斯克社交網路 X 上月被 xAI 生成的非同意裸照淹沒，部分涉及未成年人，導致加州總檢察長辦公室展開調查，歐盟及其他政府也採取行動，包括實施封鎖和禁令。馬斯克在證詞中表示簽署 AI 安全信是因為「似乎是個好主意」，旨在呼籲謹慎並優先考慮 AI 安全。他還確認關於向 OpenAI 捐贈 1 億美元的說法是錯誤的，實際金額約為 4480 萬美元。馬斯克提到成立 OpenAI 是為了制衡 Google 在 AI 領域的壟斷威脅，並表示與 Google 共同創辦人拉里·佩奇的對話令人擔憂，因為對方似乎不重視 AI 安全。
-
Anthropic 與美國國防部：到底爭奪什麼？
過去兩週，Anthropic 執行長 Dario Amodei 與國防部長 Pete Hegseth 因軍事部門使用人工智慧（AI）的議題展開激烈對峙。Anthropic 堅決反對其 AI 模型用於大規模監控美國民眾或開發無需人類介入的自主武器系統。然而，Hegseth 主張國防部不應受供應商規則限制，認為任何「合法用途」的技術應用皆應被允許。週四，Amodei 公開表示公司不會退讓，儘管面臨被列為供應鏈風險的威脅。 這場爭論的核心在於誰能控制強大 AI 系統——是開發公司還是希望部署它們的政府。Anthropic 擔憂其模型被用於大規模監控或自主武器，因為傳統國防承包商對產品用途缺乏說服力，但 Anthropic 自成立以來便認為 AI 具有獨特風險，需要特殊防護。美國軍事已依賴高度自動化系統，雖然致命武力決策 historically 由人類做出，但法律對自主武器的限制極少。根據 2023 年國防部（DoD）指令，AI 系統可在符合標準並經高階官員審查後，無需人類幹預選定並擊殺目標。這正是 Anthropic 感到不安之處，因為軍事技術具有保密性，若軍事部門自動化致命決策，可能直到系統運作時才知情。若使用 Anthropic 模型，這可能被視為「合法用途」。 Anthropic 並非完全反對未來使用，而是認為其模型目前尚不足以安全支援這些應用。若將能力較弱的 AI 置於武器系統中，可能導致誤判目標、升級衝突或做出不可逆的致命決定。此外，AI 能大幅強化對美國公民的合法監控，透過自動化大規模模式識別、實體解析、預測風險評分及持續行為分析，改變現有監控格局。 五角大樓主張應能部署 Anthropic 技術於其認為必要的任何合法用途，而非受內部政策限制。發言人 Sean Parnell 表示，國防部無意進行大規模國內監控或部署自主武器，但要求允許使用模型的所有合法目的，以免危及軍事運作。Parnell 稱 Anthropic 需在週五下午 5:01 美國東部時間前做出決定，否則將終止合作並將其視為供應鏈風險。Hegseth 的擔憂有時似乎與文化訴求相關，他曾批評「woke AI」，強調國防戰爭 AI 不應