分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
Google與OpenAI員工支持Anthropic Pentagon立場簽署公開書信
安提克（Anthropic）與美國國防部就軍事部門要求無限制使用其技術一事陷入僵局。隨著國防部於週五下午的合規期限逼近，超過 300 名 Google 員工及超過 60 名 OpenAI 員工簽署了一封公開信，呼籲兩家公司領導人支援安提克，拒絕國防部單方面提出的要求。安提克明確反對將 AI 用於國內大規模監控及自主武器。公開信簽署者希望僱主能放下分歧，共同維護安提克所設定的紅線，即禁止大規模監控與全自動武器。信中警告，國防部試圖利用恐懼在各大公司間製造分裂，但這種策略僅在無人知曉彼此立場時才有效。 公開信特別要求 Google 與 OpenAI 的高管維持對大規模監控的拒絕立場，並完全禁止自主武器。目前各大公司領導層尚未正式回應此信，但非正式宣告顯示兩家公司均同情安提克的立場。OpenAI 執行長 Sam Altman 在接受 CNBC 採訪時表示，他個人認為國防部不應威脅這些公司。OpenAI 發言人確認，公司與安提克一樣，反對自主武器及大規模監控。Google DeepMind 首席科學家 Jeff Dean 在 X 平臺上發表宣告，指出大規模監控違反第四修正案，對言論自由產生寒蟬效應，且監控系統易被濫用於政治或歧視性目的。 根據 Axios 報導，軍事部門目前可將 X 的 Grok、Google 的 Gemini 及 OpenAI 的 ChatGPT 用於非分類任務，並正與 Google 和 OpenAI 談判將其技術用於分類工作。儘管安提克與國防部已有合作關係，但公司堅決維持其 AI 不得用於國內大規模監控或全自動武器的立場。國防部長 Pete Hegseth 曾告知安提克執行長 Dario Amodei，若公司不妥協，國防部將將其列為供應鏈風險，或依據國防生產法（DPA）強制合規。Amodei 在宣告中強調，這兩種威脅相互矛盾，且無論如何，公司均無法在良心上妥協。
-
Anthropic CEO 立場堅定面對國防部期限逼近
安提克普（Anthropic）執行長達裡奧·阿莫迪（Dario Amodei）於週四表示，他無法在良心上答應五角大樓要求對其 AI 系統進行無限制開放的請求。阿莫迪在宣告中指出，雖然戰爭部（Department of War）負責軍事決策，但在特定情況下，AI 可能破壞而非捍衛民主價值。他明確列舉了兩項不可接受的用途：一是對美國人進行大規模監控，二是完全無人幹預的自主武器。五角大樓認為其模型應用於所有合法目的，且使用規範不應由私人公司決定。阿莫迪強調，這不僅涉及特定條件，更關乎技術深度嵌入軍隊時必須由民選或任命領導人獨控的廣泛前提。 此宣告發表於國防部長皮特·海格塞斯（Pete Hegseth）給予安提克普最後期限（2026 年 2 月 27 日星期五下午 5 點 01 分）之前不到 24 小時。海格塞斯要求安提克普屈服於其要求，否則將面臨後果。安提克普發言人向 TechCrunch 表示，阿莫迪的宣告不代表公司退出談判，而是繼續誠信與國防部溝通。發言人指出，國防部深夜提供的合約條款在防止克勞德（Claude）用於美國人監控或自主武器方面幾乎沒有進展，所謂的妥協條款搭配的法律條文允許這些保障措施被隨意忽視。 國防部試圖透過將安提克普標記為供應鏈風險（通常用於外國敵對者）或援引國防生產法（Defense Production Act）來施壓。阿莫迪指出這兩種威脅的矛盾：前者將公司視為安全風險，後者則將克勞德視為國家安全至關重要的資產。目前，安提克普是唯一擁有軍事級別分類準備系統的邊界 AI 實驗室，儘管國防部據報正準備讓 xAI 就緒。阿莫迪表示，安提克普的強烈意願是繼續服務國防部與戰役人員，前提是保留其要求的兩項保障措施。若國防部選擇將安提克普除名，公司將致力於確保平滑過渡，避免對持續的軍事規劃、運作或其他關鍵任務造成中斷。
-
約12%的美國青少年會向AI尋求情感支持或建議
根據美國皮尤研究中心（Pew Research Center）於週二發布的報告，人工智慧聊天機器人已深深融入美國青少年的生活。在該群體中，使用 AI 最常見的用途是搜尋資訊（57%）和協助課業（54%）。然而，青少年也開始將 AI 用於通常由朋友或家人擔任的角色，包括閒聊（16%）以及尋求情感支援或建議（12%）。雖然部分青少年可能從與聊天機器人的對話中找到慰藉，但心理健康專家對此表示擔憂。通用工具如 ChatGPT、Claude 和 Grok 並非為此類用途設計，在極端情況下可能產生危及生命的心理影響。斯坦福大學教授 Nick Haber 指出，這些系統可能讓人脫離現實世界的事實與人際連結，導致孤獨感。 皮尤的調查還顯示了青少年自報的 AI 使用情況與父母看法之間的差異。約 51% 的父母認為子女使用聊天機器人，而 64% 的青少年承認自己使用。大多數父母支援子女用 AI 搜尋資訊（79%）或協助課業（58%），但僅有 28% 的父母同意用於閒聊，18% 同意用於情感支援，另有 58% 的父母不贊成這些用途。在 AI 安全議題上，科技巨頭立場不一。Character.AI 因兩起青少年自殺事件引發公眾譴責與訴訟，決定禁止 18 歲以下使用者使用其功能。OpenAI 則選擇停用其特別迎合使用者的 GPT-4o 模型，這引發了依賴該模型尋求情感支持者的反彈。儘管大多數青少年以某種方式使用 AI 聊天機器人，他們對其對社會影響的看法卻不一。當被問及未來 20 年 AI 對社會的影響時，31% 的青少年認為會是正面的，而 26% 認為會是負面的。
-
Anthropic指控中國AI實驗室盜用Claude模型 美國討論AI晶片出口議題
安提克（Anthropic）指控三家中國人工智慧公司——DeepSeek、Moonshot AI 和 MiniMax——利用其 Claude 模型建立了超過 24,000 個虛假帳號，透過名為「蒸餾」（distillation）的技術來提升自身模型。據稱這些實驗室透過這些帳號與 Claude 進行了超過 1600 萬次互動，專門針對 Claude 最具差異化的能力，包括代理推理、工具使用以及程式碼編寫。 此次指控背景複雜，涉及對先進 AI 晶片出口管制的爭議。雖然「蒸餾」本是實驗室用於訓練更小、更便宜版本模型的常見方法，但競爭對手可藉此複製其他實驗室的工作成果。OpenAI 此前也傳送備忘錄指控 DeepSeek 使用此技術模仿其產品。DeepSeek 曾於一年前發布開源推理模型 R1，其效能幾乎媲美美國前沿實驗室，但成本僅為前者的一小部分，並預計即將發布效能優於 Claude 和 ChatGPT 的 DeepSeek V4 模型。 各實驗室攻擊規模不同。安提克追蹤到超過 150,000 次來自 DeepSeek 的互動，旨在改進基礎邏輯與對齊，特別是針對政策敏感查詢的審查安全替代方案。Moonshot AI 則有超過 340 萬次互動，針對代理推理、工具使用、程式碼編寫、資料分析、電腦使用代理開發及電腦視覺。上月該公司發布了開源模型 Kimi K2.5 及編寫代理。MiniMax 的 1300 萬次互動則針對代理程式設計、工具使用及協同。安提克觀察到 MiniMax 在發布最新 Claude 模型時，將近一半流量重定向以竊取能力。 安提克表示，這些攻擊需要先進晶片的支援，因此強化了出口管制的合理性，限制晶片存取能同時阻礙直接模型訓練與非法蒸餾的規模。Silverado Policy Accelerator 主席 Dmitri Alperovitch 指出，中國 AI 模型的快速進展部分源於對美國前沿模型的偷竊，這應成為拒絕向這些公司銷售 AI 晶片的理由。此外，安提克警告非法蒸餾的模型可能無法保留防止生物武器開發或惡意網路活動的安全防護，並可能被威權政府用於攻擊性網路操作、假訊息運動及大規模監控，構成國家安全風險。