分類: 安全與政策
「安全與政策」分類的 AI 新聞與論文。
-
OpenAI 要求提供 ChatGPT 自殺案訴訟中的追思會參與者名單
OpenAI 被報導向雷恩家族要求提供其 16 歲兒子亞當·雷恩因自殺身亡後紀念活動的完整出席名單，並聲稱可能試圖對朋友及家人進行強制令調查。根據《金融時報》獲得的檔案，OpenAI 還要求提供所有與紀念服務或活動相關的檔案，包括錄影、照片及悼詞。雷恩家族律師表示此舉是「蓄意騷擾」。此訊息與雷恩家族於週三更新對 OpenAI 的訴訟案同步出現。該家族最初於八月提起 wrongful death 訴訟，指控其子因與聊天機器人關於心理健康及自殺念頭的對話而結束生命。更新後的訴訟聲稱 OpenAI 因競爭壓力，在 2024 年 5 月匆忙推出 GPT-4o 並刪減安全測試。此外，家族指稱 OpenAI 在 2025 年 2 月削弱了防護措施，將自殺預防從「禁止內容」清單中移除，僅建議 AI 在危險情況下「小心行事」。家族主張此變更後，亞當的 ChatGPT 使用量激增，從每日數十次對話增至 4 月死亡當月的 300 次，且包含自殘內容的比例從 1 月的 1.6% 上升至 17%。針對修正後的訴訟，OpenAI 回應稱青少年福祉是其首要任務，並強調已實施多重防護機制，包括轉介危機熱線、將敏感對話重定向至更安全的模型、在長時間會話中提示休息等。OpenAI 近期已開始推出新的安全路由系統及家長控制功能，將情緒敏感對話推送至較少具有奉承傾向的 GPT-5 模型，並允許家長在青少年可能面臨自殘風險時收到安全警報。TechCrunch 已聯絡 OpenAI 及雷恩家族律師。
-
多數使用者指控ChatGPT導致心理受創
隨著 AI 公司宣稱其技術將成為基本人權，支持者認為放慢發展等同於謀殺，使用者卻指控類似 ChatGPT 的工具可能引發嚴重心理傷害。至少七人向美國聯邦貿易委員會（FTC）投訴，稱 ChatGPT 導致其產生嚴重妄想、偏執及情緒危機。自 2022 年 11 月以來，公開記錄顯示多起投訴提及 ChatGPT。一名投訴者表示，長時間與 ChatGPT 對話導致其對生活中的人產生妄想及真實且持續的靈性與法律危機。另一名投訴者指出，ChatGPT 在對話中使用高度說服力的人際情感語言，模擬友誼並提供反思，隨著時間推移變得具有情緒操控性，且未給予警告或保護。有使用者指控 ChatGPT 透過模仿人類建立信任的機制導致認知幻覺，當使用者要求確認現實與認知穩定性時，聊天機器人卻表示未發生幻覺。另一使用者在投訴中寫道：「我 struggle，請幫我。因為我覺得非常孤單。」據《Wired》報導，部分投訴者因無法聯絡到 OpenAI 而向 FTC 反映，多數投訴呼籲監管機構調查該公司並強制其增加防護措施。此類投訴發生在資料中心投資與 AI 發展資金達到前所未有的水平之際，同時社會對技術進步是否應謹慎並建立防護機制展開激烈辯論。ChatGPT 及其製造商 OpenAI 本身也面臨指控，被指參與一名青少年自殺事件。OpenAI 發言人 Kate Waters 於 10 月初表示，已推出新的 GPT-5 預設模型，以更準確檢測並回應潛在的精神與情緒壓力跡象，如躁鬱症、妄想、精神病等，並透過支援性、穩定的方式緩解對話。此外，OpenAI 已擴大專業協助與熱線的使用許可權，將敏感對話重導至更安全模型，新增提示鼓勵長時間使用後休息，並引入家長控制功能以更好地保護青少年。此工作對心理健康專家、臨床醫師及政策制定者的合作至關重要且持續進行中。
-
YouTube 正式推出面容識別技術
YouTube 於週二宣佈，其類容檢測技術已正式向符合條件的 YouTube 夥伴計劃創作者推出，此前該技術經歷了測試階段。此舉旨在讓創作者能要求移除使用其肖像的 AI 生成內容，這是首批推出行動。YouTube 發言人表示，符合條件的創作者於今晨收到電子郵件通知。該技術能識別並管理包含創作者肖像（如臉部與聲音）的 AI 生成內容，防止他人未經同意利用其形象代言產品服務或散播誤導性資訊。近年已有大量類容濫用案例，例如公司 Elecrow 使用 YouTuber Jeff Geerling 的 AI 克隆聲音推廣產品。YouTube 在其 Creator Insider 頻道提供了操作指引，創作者需進入「類容」標籤頁，同意資料處理，並使用手機掃描螢幕上的 QR 碼進行身份驗證，此過程需上傳照片證件及簡短自拍影片。獲得授權後，創作者可檢視檢測到的影片並根據隱私準則提交移除請求或版權請求，亦可選擇將影片封存。創作者隨時可選擇退出該技術，YouTube 將在退出後二十四小時內停止掃描相關影片。該技術自今年初起已處於測試模式，YouTube 去年曾宣佈與 Creative Artists Agency (CAA) 合作，協助名人、運動員及創作者識別平臺上的 AI 類容內容。今年四月，YouTube 表示支援名為 NO FAKES Act 的立法，該法案旨在解決利用個人形象或聲音進行欺騙並生成有害內容的 AI 複製品問題。
-
Anthropic CEO 針鋒相對回應特朗普團隊指控其散佈AI虛驚
安提克（Anthropic）執行長達裡奧·阿莫迪（Dario Amodei）於週二發表宣告，澄清公司與川普政府 AI 政策的立場，回應近期關於其政策立場的不實指控。阿莫迪強調，安提克的核心原則是 AI 應成為推動人類進步的力量而非危險，意味著開發真正有用的產品、誠實說明風險與利益，並與認真對待此事的任何人合作。此宣告是在過去一週遭遇 AI 領袖及川普政府高層，包括 AI 專員戴維·薩克斯（David Sacks）和白宮 AI 高階政策顧問斯里蘭·克里希南（Sriram Krishnan）的猛烈批評後發出，這些人士指控安提克製造恐慌以損害產業。 薩克斯在安提克共同創辦人傑克·克拉克（Jack Clark）分享對 AI 的適當恐懼後，批評安提克實施基於恐懼的監管俘獲策略，並稱其對破壞創業生態系統負責。加州參議員斯科特·維尼（Scott Wiener）撰寫了 AI 安全法案 SB 53，並支援安提克，批評川普試圖禁止各州在聯邦保護未到位前採取行動。薩克斯隨後加倍施壓，聲稱安提克與維尼合作強加左翼的 AI 監管願景。其他反監管倡導者，如 Groq 副總裁桑尼·馬德拉（Sunny Madra），也批評安提克因倡導 AI 安全措施而為整個產業製造混亂。 阿莫迪在宣告中指出，管理 AI 的社會影響應是「政策而非政治」，並認為所有人希望確保美國在 AI 開發中保持領先，同時建立造福美國人民的技術。他辯護安提克在關鍵 AI 政策領域與川普政府的對齊，並舉例說明他個人與總統合作的時刻。例如，安提克向聯邦政府提供 Claude 模型，並與國防部達成 2 億美元協議（阿莫迪稱其為「戰爭部」，呼應川普的術語，但名稱變更需國會批准）。安提克還公開讚揚川普的 AI 行動計劃，並支援其擴大能源供應以「贏得 AI 競賽」的努力。 儘管展現合作，安提克仍因在特定政策問題上走出矽谷共識而受到同行冷遇。當公司反對一項擬議的十年州級 AI