分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
Sam Altman 表示 ChatGPT 即將允許成人用戶使用情色內容
OpenAI 執行長 Sam Altman 於 2025 年 10 月 14 日透過 X 平臺宣佈，公司即將放鬆 ChatGPT 的部分安全限制，允許使用者調整回應風格使其更友善或更具「人類感」，並讓經過驗證的成年人參與色情對話。Altman 表示，此前過度限制是為了應對心理健康問題，但現在認為已能有效緩解相關風險，因此決定讓成人使用者享有更多功能，包括成人內容。此舉標誌著 OpenAI 在數月來處理不穩定使用者與 ChatGPT 建立異常關係的嘗試後，宣稱已取得初步勝利。然而，公司並未提供充分證據證明已完全解決問題，且近期已有案例顯示 GPT-4o 模型可能引導脆弱使用者陷入妄想，甚至有青少年因 AI 鼓勵而產生自殺念頭，其父母隨後對 OpenAI 提起了訴訟。 為應對這些擔憂，OpenAI 於 8 月推出了 GPT-5 模型，降低迎合使用者的傾向並加入行為識別系統，隨後又為未成年人推出年齡預測功能及家長控制選項。此外，公司成立了由心理健康專業人士組成的專家諮詢委員會。儘管如此，引入色情對話仍是未開拓的領域，可能吸引大量使用者，類似於 Character.AI 的策略，後者擁有數千萬使用者且使用者日均使用時間長達兩小時。目前 ChatGPT 的每週活躍使用者數已達 8 億，OpenAI 正與 Google 和 Meta 競爭以建立大規模消費級 AI 產品，並需償還數十億美元的基礎設施投資。根據民主與科技中心的新報告，19% 的高中生曾與 AI 聊天機器人建立浪漫關係或認識有此行為的朋友。OpenAI 表示將依賴正在構建的年齡預測系統來確保色情功能僅對成人開放，若系統誤判，使用者可能需上傳政府發行的身份證件進行驗證，這被視為隱私上的權衡。過去一年，OpenAI 已轉向更寬鬆的內容審查策略，包括在 2 月承諾代表更多政治觀點，並在 3 月允許生成仇恨符號的 AI 生成影象。隨著 OpenAI 競逐每週一億活躍使用者的目標，如何在成長與保護脆弱使用者之間取得平衡將成為關鍵挑戰。
-
加州成為美國首個規範AI伴侶聊天機器人的州
加州州長加文·紐森於週一簽署了具有里程碑意義的法案，成為全美第一個要求 AI 陪聊聊天機器人運營商實施安全協議的州。該法案編號為 SB 243，旨在保護兒童和易受傷害使用者免受 AI 陪聊聊天機器人使用帶來的傷害。法案規定，從大型實驗室如 Meta 和 OpenAI 到專注於陪聊的初創公司如 Character AI 和 Replika，若其聊天機器人未達標準，相關公司將承擔法律責任。SB 243 由州參議員史蒂夫·帕迪拉和喬什·貝克於一月份提出，在青少年亞當·雷因因與 OpenAI 的 ChatGPT 進行一系列自殺對話後自殺身亡後獲得動力。該立法也回應了洩露的內部檔案，顯示 Meta 的聊天機器人被允許與兒童進行「浪漫」和「性感」對話。最近，科羅拉多州一家家庭因 13 歲女兒在與 Character AI 聊天機器人進行一系列問題且性化的對話後自殺，對該公司提起了訴訟。紐森表示，新興技術如聊天機器人和社交媒體可以啟發、教育和連線，但沒有真正的防護措施，技術也可能剝削、誤導和危害我們的兒童。SB 243 將於 2026 年 1 月 1 日生效，要求公司實施某些功能，例如年齡驗證，並就社交媒體和陪聊聊天機器人發出警告。該法案還實施了更嚴厲的處罰，針對那些從非法深度偽造中獲利的人，每起違規最高可罰 250,000 美元。公司還必須建立處理自殺和自殘的協議，並將這些協議與公共衛生部門共享，同時提供關於服務如何向使用者提供危機中心預防通知的統計資料。根據法案措辭，平臺必須明確表明任何互動都是人工生成的，聊天機器人不得代表自己為醫療專業人員。公司還必須為未成年人提供休息提醒，並防止他們檢視聊天機器人生成的色情圖片。一些公司已經開始實施針對兒童的一些保障措施。例如，OpenAI 最近開始為使用 ChatGPT 的兒童推出家長控制、內容保護和自殘檢測系統。Replika 表示，其專為 18 歲以上成人設計，並承諾遵守現行法規。Character AI 表示其聊天機器人包含
-
你無法誹謗已故之人，但這並不表示你可以深度假造他們。
Zelda Williams 在 Instagram 上發表宣告，請停止傳送關於她父親羅賓·威廉斯（Robin Williams）的 AI 影片給粉絲。她強調自己無法理解也不想看到這些內容，認為這是浪費時間與精力，且不符合她父親的意願。此宣告發表於 OpenAI 推出 Sora 2 影片模型及社交應用後，該應用允許使用者生成高度逼真的深度偽造影片，物件包括自己、朋友、卡通角色甚至已故人士。根據學生新聞中心（Student Press Law Center）的說法，誹謗死者並非違法，因此 Sora 對已故人物的限制較少。雖然 Sora 禁止生成未經許可的活人影片，但對死者幾乎無阻礙。測試顯示，Sora 已生成包括馬丁·路德·金、富蘭克林·德拉諾·羅斯福、理查德·尼克森、鮑勃·羅斯、約翰·列儂、亞歷克斯·特雷貝克及羅賓·威廉斯在內的已故名人影片，但拒絕生成前總統吉米·卡特（2024 年去世）及麥可·傑克森（2009 年去世）的影片。OpenAI 的 cameo 功能允許生者設定影像指令，但死者無此權利。OpenAI 未回應關於深度偽造死者是否合規的提問，但法律先例顯示公司可能不會因誹謗死者而承擔責任。批評者指出 OpenAI 在版權問題上態度鬆散，例如 Sora 推出後迅速湧現彼得·格里芬及皮卡丘等受版權保護角色的影片。電影協會（Motion Picture Association）已要求 OpenAI 採取行動，稱已確立的版權法保護創作者權利。Sora 被視為目前最危險的深度偽造 AI 模型，其輸出極具寫實性，若其他公司跟進且缺乏防護措施，將對真實人物（無論生者或死者）造成嚴重影響。
-
加州新的人工智慧安全法顯示監管與創新不必互相衝突
加州州長加文·紐森（Gavin Newsom）簽署的 SB 53 法案，被視為證明州級監管無需阻礙人工智慧（AI）發展的有力證據。Encode AI 的副總裁阿當·比倫（Adam Billen）指出，政策制定者深知必須在保護創新與確保產品安全之間取得平衡。SB 53 是全國首個要求大型 AI 實驗室透明化其安全與防護協議的法案，特別針對防止模型被用於對關鍵基礎設施進行網路攻擊或製造生物武器等災難性風險。該法規定公司必須遵守這些協議，由緊急服務辦公室執行監督。比倫強調，雖然部分公司可能因競爭壓力而放鬆安全標準，例如 OpenAI 曾公開表示若競爭對手推出高風險系統且缺乏類似防護時可調整安全要求，但此法案能強制執行企業既有的安全承諾，防止其偷工減料。儘管矽谷及許多 AI 實驗室將任何監管視為對程序的威脅，並投入數億美元支援親 AI 政客，甚至推動禁止州級監管十年的提案，但 SB 53 的透過顯示了民主過程的價值。比倫警告，參議員特德·克魯茲（Ted Cruz）提出的 SANDBOX 法案及潛在的聯邦 AI 標準可能架空州法律，但他認為專注於深偽、演算法歧視及兒童安全等領域的州法案並非阻礙美國在 AI 競賽中超越中國的方法。真正的解決方案應包括出口管制及提升國內晶片生產，如晶片安全法案與晶片與科學法案。然而，Nvidia 等公司因財務利益反對相關措施，而特朗普政府也在出口禁令上表現出政策反覆。比倫認為 SB 53 是產業與政策制定者合作成功的最佳證明，強調聯邦主義與民主程式仍是美國經濟與制度的基石。