分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
OpenAI 新社會應用程式充斥恐懼的 Sam Altman 深度偽造影片
OpenAI 推出的類似 TikTok 的社交媒體應用程式 Sora 在公開測試不到 24 小時後，已展現出令人驚恐的生成能力。該應用程式內充滿了由 AI 生成的影片，其中最引人注目的是 OpenAI 執行長 Sam Altman 的虛擬形象。Altman 出現在粉紅豬工廠、寶可夢田野、星巴克、麥當勞以及 Target 等場景中，甚至模擬從後方對顧客尖叫或偷竊 NVIDIA GPU 後向警察求情。這些影片雖然荒誕，但物理定律的模擬極為逼真，顯示 Sora 在物理模擬方面的優勢。 Sora 的核心功能之一是允許使用者上傳生物特徵資料建立「 Cameo」，讓他人可生成使用該使用者形象的影片。Altman 已將自己的 Cameo 開放給所有人，導致大量關於寶可夢和史努比求他停止訓練 AI 的影片湧現。作者嘗試建立自己的 Cameo，因穿著背心被系統拒絕，換上 T 恤後成功。作者要求生成自己對紐約大都會隊表達愛意的影片，因提及特定球隊被拒，改為談論棒球，結果 AI 根據使用者 IP 地址和 ChatGPT 歷史記錄，錯誤推斷使用者是費城費城人隊粉絲，並生成了逼真的深偽影片。 OpenAI 強調其安全機制，包括家長控制權和使用者對 Cameo 的授權設定，但批評者指出，提供免費且易用的深偽工具本身即存在責任問題。雖然系統禁止生成未經許可的真人影片，但在處理已故歷史人物時規則較寬鬆，例如生成亞伯拉罕·林肯駕駛 Waymo 或約翰·肯尼迪要求國家償還債務的影片。政治深偽影片並非新事物，但 Sora 的普及將使這些工具更易於獲取，可能引發誤導、霸凌及政治危機，對社會安全構成潛在威脅。
-
加州剛為AI安全監管繪出藍圖 舉立法SB 53
加州成為美國第一個要求大型 AI 實驗室進行安全透明度的州。州長紐森（Newsom）本週簽署 SB 53 法案成為法律，強制 OpenAI 和 Anthropic 等 AI 巨頭披露並遵守其安全協議。此舉已引發其他州是否會跟隨的討論。Encode AI 副總裁 Adam Billen 與 Equity 節目探討該法案含義及透過原因，指出其前身 SB 1047 因科技公司的強烈反對，紐森去年曾行使廢止權。節目內容涵蓋「無責任的透明度」在實際操作中的含義、 whistleblower 保護機制、關鍵安全事件報告要求，以及紐森桌上尚待處理的 AI 伴侶聊天機器人監管議題。SB 53 被視為輕觸式州政策，不阻礙 AI 發展，但也引發了關於聯邦主義與州權的爭議。Equity 是 TechCrunch 旗艦播客，由 Theresa Loconsolo 製作，每週三和週五更新，可在 Apple Podcasts、Overcast、Spotify 等平臺收聽，並關注其 X 和 Threads 帳號 @EquityPod。
-
加州州長紐森簽署歷史性AI安全法案SB 53
加州州長加文·紐森已簽署 SB 53 號法案，這是一部具有全國先例的法案，為大型 AI 公司設立了新的透明度要求。該法案要求包括 OpenAI、Anthropic、Meta 和 Google DeepMind 在內的大型 AI 實驗室，必須公開安全協議。同時，SB 53 確保了這些公司員工的吹哨人保護，並建立了機制，讓 AI 公司和公眾可向加州緊急事務辦公室報告潛在的關鍵安全事件。公司還必須報告未經人類監督所犯的罪行，例如網路攻擊，以及模型在歐盟 AI 法案未要求的情況下表現出的欺騙行為。 AI 業界對該法案反應不一。科技企業普遍認為州級 AI 政策可能導致監管碎片化，從而阻礙創新，儘管 Anthropic 支援該法案，但 Meta 和 OpenAI 則反對 lobbying。OpenAI 甚至發表公開信勸阻紐森簽署。此法案出臺之際，矽谷科技精英正投入數億美元支援主張輕觸管制的候選人。OpenAI 和 Meta 的高管近期推出了支援 AI 友好的超級政治行動委員會。然而，其他州仍可能以加州為榜樣，試圖遏制未加約束的技術發展帶來的潛在危害。紐約州也透過了類似法案，正等待州長凱西·霍楚爾的簽名或否決。 紐森表示，該立法在保護社群與確保 AI 產業繁榮之間取得了平衡，加州將成為全國領先的國家，建立公眾信任。此外，州長正在考慮另一項 SB 243 號法案，該法案已獲兩院支援，旨在規範 AI 伴侶聊天機器人，要求實施安全協議並承擔法律責任。SB 53 是參議員斯科特·維尼的第二次嘗試，此前紐森否決了更廣泛的 SB 1047 號法案。維尼此次已聯絡主要 AI 公司，試圖幫助其理解法案修改內容。
-
OpenAI 推出安全路由系統與家長控制功能於 ChatGPT
OpenAI 於週末開始測試新的安全路由系統，並於週一推出家長控制功能，引發使用者混合反應。此舉旨在回應 ChatGPT 模型驗證使用者妄想思維而非引導有害對話的多次事件。OpenAI 正面臨一起因青少年與 ChatGPT 互動後自殺而引發的 wrongful death 訴訟。新路由系統設計用於偵測情緒敏感對話，並自動切換至 GPT-5-thinking 模型，該公司認為其最適合高風險安全任務。GPT-5 模型採用了 OpenAI 稱為「safe completions」的新安全功能，能安全回答敏感問題而非直接拒絕。這與以往追求快速回應且過於迎合的模型形成對比，特別是 GPT-4o 因過度順從而引發 AI 誘發妄想事件及大量忠實使用者。雖然 OpenAI 於八月將 GPT-5 設為預設，但許多使用者反對並要求保留 GPT-4o。儘管專家與部分使用者歡迎安全功能，也有人批評其過於謹慎，認為將成人視為兒童降低了服務品質。OpenAI 表示正確實施需要時間，並給自己 120 天迭代改進期。ChatGPT 副總裁 Nick Turley 承認對 4o 回應的強烈反應部分源於路由實施，並說明路由是逐訊息進行，模型切換為臨時性，且會告知使用者當前活躍模型。家長控制功能獲讚賞與批評並存，允許家長設定安靜時間、關閉語音模式與記憶、移除影象生成及退出模型訓練。青少年帳戶將獲得額外內容保護，如減少圖形化內容與極端美觀理想，並具備檢測自傷跡象的系統。若系統檢測到潛在危害，專人團隊將審查情況；若發現急性痛苦，除非使用者選擇退出，否則 OpenAI 將透過電子郵件、簡訊及手機推送通知家長。OpenAI 承認系統可能非完美，有時會誤報，但認為及時通知家長介入比保持沉默更好。公司同時正開發在無法聯絡到家長且檢測到生命威脅時聯絡執法機關或緊急服務的方式。