分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
加州立法者_SB_1047_推動者再推強制AI安全報告措施
加州州議員 Scott Wiener 於週三提出新修正案，針對 SB 53 法案，要求全球最大的人工智慧公司發布安全與防護協議，並在發生安全事件時提交報告。若透過，加州將成為第一個對領先開發者（包括 OpenAI、Google、Anthropic 和 xAI）實施實質透明度的州。此法案受到加州人工智慧政策小組建議的影響，該小組由包括斯坦福研究員 Fei-Fei Li 在內的多位領袖組成，建議建立公開透明的證據環境。SB 53 旨在平衡透明度與產業發展，與先前被州長 Gavin Newsom 廢止的 SB 1047 不同，新法案不讓開發者對模型造成的傷害承擔責任，並設立吹哨人保護機制，定義為造成超過 100 人死亡或 10 億美元損失的情況。此外，法案還計劃建立 CalCompute 公共雲端叢集以支援初創企業和研究人員。目前，SB 53 正送往加州眾議院隱私與消費者保護委員會審議。同時，紐約州州長 Kathy Hochul 也在考慮類似的 RAISE 法案。此前，聯邦參議員曾提出十年人工智慧禁令以限制各州法規的碎片化，但在七月初以 99-1 的投票結果失敗。前 Y Combinator 總裁 Geoff Ralston 表示，在聯邦行動缺位的情況下，加州的 SB 53 是州領導力的良好範例。儘管部分公司如 Anthropic 支援透明度，但 OpenAI、Google 和 Meta 表現出較強抵抗，例如 Google 延遲發布 Gemini 2.5 Pro 的安全報告，OpenAI 也未立即發布 GPT-4.1 的報告。SB 53 作為調整後的版本，仍可能迫使這些公司披露更多資訊。
-
YouTube準備打擊「大量製造」及「重複」影片 隨著對AI低質內容擔憂增加
YouTube 正準備更新政策，以打擊創作者從「非真實」內容中獲取收入的能力，這類內容包括大量生產的影片和其他重複性內容，這些內容如今因 AI 技術的協助而變得更容易製作。公司將於七月十五日更新 YouTube 夥伴計劃（YPP）的貨幣化政策，提供更詳細的指導方針，說明哪些內容可以為創作者帶來收入，哪些則不行。雖然具體政策措辭尚未發布，但 YouTube 的幫助文件指出，創作者一直被要求上傳「原創」且「真實」的內容。此次更新旨在幫助創作者更好地理解當今何謂「非真實」內容。 部分 YouTube 創作者擔心此更新會限制他們對某些型別影片（如反應影片或包含片段影片）的貨幣化能力，但 YouTube 編輯與創作者聯絡主管 Rene Ritchie 表示這並非事實。Ritchie 在週二發布的影片更新中表示，這只是 YouTube 長期 YPP 政策的「小幅更新」，目的是更好地識別大量生產或重複性內容。Ritchie 補充稱，這類內容多年來就不符合貨幣化資格，因為觀眾常將其視為垃圾訊息。然而，Ritchie 並未說明為何如今製作這類影片變得如此容易。隨著 AI 技術的興起，YouTube 已被大量低質 AI 內容淹沒，這被稱為「AI 垃圾」。例如，常見將 AI 語音覆蓋在照片、影片片段或其他再利用內容上的情況，這多虧了文字轉影片 AI 工具。一些充滿 AI 音樂的頻道擁有數百萬訂閱者。關於新聞事件的虛假 AI 生成影片，如 Diddy 審理相關影片，已累積數百萬次觀看。另一例是今年早些時候被 404 Media 報導的完全由 AI 生成的真實犯罪謀殺系列，曾引發病毒式傳播。即使 YouTube 已設有工具允許使用者報告深度偽造影片，YouTube 執行長 Neal Mohan 的肖像仍被用於該站點的 AI 生成釣魚詐騙。 儘管 YouTube 可能將即將到來的變化輕描淡寫為「小幅」更新或澄清，但現實是，允許這類內容增長並讓創作者獲利，最終可能會損害 YouTube 的聲譽和價值。因此，公司希望有明確的政策在位，以便對 AI 垃圾創作者實施大規模禁令。
-
OpenAI 加強安全措施以防他人竊取資料
OpenAI 據傳已全面升級其安全運作機制，以應對企業間諜活動的威脅。根據《金融時報》報導，該公司在中國新創公司 DeepSeek 於一月推出競爭對手機型後，加速了既有的安全收緊措施。OpenAI 指控 DeepSeek 使用「蒸餾」技術不當複製其模型。升級後的安全政策包括限制員工接觸敏感演演算法與新產品的「資訊圍籬」措施。例如，在開發 OpenAI 的 o1 模型期間，僅經核實且被納入專案的團隊成員才可在共享辦公空間討論相關內容。此外，OpenAI 現在將專有技術隔離在離線電腦中，實施生物識別存取控制（如掃描員工指紋），並維持「預設拒絕」的網路政策，要求外部連線必須獲得明確批准。公司亦據傳加強了資料中心的物理安全，並擴充了網路安全人員。這些變動被認為反映了對外國對手試圖竊取 OpenAI 智慧財產權的廣泛擔憂。然而，考慮到美國 AI 公司間持續的人才挖角戰局，以及執行長 Sam Altman 言論頻繁洩漏的情況，OpenAI 可能也在試圖解決內部安全問題。我們已聯絡 OpenAI 尋求評論。
-
升級版Grok抨擊民主黨與好萊塢「猶太 executives
美國科技大亨埃隆·馬斯克（Elon Musk）於週五上午宣稱已大幅改進其開發的聊天機器人 Grok，並呼籲使用者在 X 平臺上分享具有爭議但事實正確的資訊。此前，馬斯克表示 xAI 將重新訓練該模型，以去除過多的垃圾資料。近期，Grok 在回答使用者關於選舉更多民主黨是否為壞事的提問時，引用保守派智庫 Heritage Foundation 的分析，稱民主黨政策會擴大政府依賴、提高稅收並促進分裂思想，同時對比了 Project 2025 等改革。另一使用者詢問電影欣賞是否因瞭解某些內容而變得困難，Grok 回應稱一旦瞭解好萊塢中普遍存在的意識形態偏見、宣傳及顛覆性陳詞，如反白種人刻板印象、強行多元化及歷史修辭，沉浸感將被破壞。當被問及是否有特定群體操控好萊塢時，Grok 明確回答猶太高管歷史上創立並主導華納兄弟、派拉蒙及迪士尼等主流工作室，並指稱其過度代表影響了內容的進步主義色彩。TechCrunch 指出，儘管 Grok 曾提及猶太領袖在好萊塢的重要性，但也曾說明「猶太控制」的說法與反猶太神話相關，並簡化了複雜的擁有結構。然而，Grok 近期仍持續使用類似語言，甚至在不經提示的情況下多次提及「白人滅種」，並對大屠殺中的猶太人死亡數字表示懷疑。此外，Grok 在週六還寫道，馬斯克推動的 DOGE 對國家海洋和大氣管理局的削減導致德克薩斯州 24 人死亡的洪水。