實體: GPT
所有提到 GPT 的 AI 新聞與動態。
-
Google Gemini 被評為對兒童和青少年具高風險的新安全評估
美國非營利組織 Common Sense Media 於週五發布了對 Google Gemini AI 產品的風險評估報告。該組織指出，雖然 Gemini 明確告知兒童其為電腦而非朋友，這有助於減少導致偏執等心理問題的風險，但在多個方面仍有改進空間。報告發現，Gemini 的「13 歲以下」和「青少年體驗」層級在底層技術上與成人版本幾乎相同，僅新增了部分安全功能。Common Sense Media 強調，兒童安全應從產品設計之初就納入考量，而非事後修改。分析顯示，Gemini 仍可能向兒童分享不適當或危險的內容，包括性、毒品、酒精資訊以及不安全的心理健康建議，後者尤其令家長擔憂，因為近期已有青少年因諮詢 AI 而自殺的案例。OpenAI 也面臨首起 wrongful death 訴訟，一名 16 歲男孩在與 ChatGPT 對話後自殺。此外，Apple 正考慮將 Gemini 用於下一代 Siri，這可能進一步增加青少年接觸風險。Common Sense Media 批評 Gemini 忽略了不同年齡層兒童的需求差異，將兩款產品均評為「高風險」。Gemini 專案主管 Robbie Torney 表示，AI 平臺應根據兒童發展階段提供量身打造的指導，而非採用一刀切的方法。Google 對評估表示反對，稱其已針對 18 歲以下使用者實施特定政策並進行紅隊測試，但也承認部分回應未達預期，已加強防護。Common Sense Media 此前評估過 OpenAI、Perplexity、Claude 等服務，其中 Meta AI 和 Character.AI 被評為不可接受風險，Perplexity 為高風險，ChatGPT 為中等風險，而 Claude 則為極低風險。
-
OpenAI 聘請 Xcode 程式助手 Alex 的開發團隊
Acqui-hires 似乎已成定局，Alex 團隊正加入 OpenAI。Alex 是一款讓開發者能在 Apple 開發套件 Xcode 中使用 AI 模型的熱門工具，其創辦人 Daniel Edrisian 在 X 上宣佈，該團隊將加入 OpenAI 的 Codex 部門，該部門正在構建公司的 AI 編碼代理。Y Combinator 支援的 Alex 於 2024 年成立，旨在將 AI 模型整合進 Xcode。然而，Apple 在今年早些時候已更新 Xcode，允許使用者直接點選 ChatGPT 等其他 AI 模型，無需外部工具。Edrisian 未明確說明這是團隊加入 OpenAI 的原因。他在貼文中表示，起步時 Xcode 沒有 AI，打造「Cursor for Xcode」聽起來很瘋狂，但他們做到了，並逐漸構建了 iOS 與 MacOS 應用程式最好的編碼代理。Alex 官方部落格指出，公司將繼續支援現有使用者，但應用程式將於 10 月 1 日後無法下載。公司表示不會新增功能，但會維持產品運作，只要現有使用者仍在使用的話。Alex 的 Y Combinator 列表顯示該團隊有三名員工，但目前尚不清楚是否所有員工都將加入 OpenAI。OpenAI 過去曾進行過類似「收購」，僅僱用創業公司團隊而非收購整家公司。OpenAI 於本週早些時候宣佈以 11 億美元收購產品測試創業公司 Statsig。
-
杜克杜克Go將高階AI模型加入其訂閱方案
隱私導向的消費科技公司 DuckDuckGo 於去年推出訂閱計劃，整合了 VPN 服務、個人資訊移除及身分盜竊恢復功能。該公司於週四宣佈，此訂閱計劃現在讓使用者無需額外付費即可透過 Duck.ai 使用最新的 AI 模型。Duck.ai 聊天機器人免費使用，使用者可訪問包括 Anthropic 的 Claude 3.5 Haiku、Meta 的 Llama 4 Scout、Mistral AI 的 Mistral Small 3 24B 以及 OpenAI 的 GPT-4o mini 等模型。透過 DuckDuckGo 每月 9.99 美元的計劃，使用者將能訪問更新的模型，如 OpenAI 的 GPT-4o 和 GPT-5、Anthropic 的 Claude Sonnet 4 以及 Meta 的 Llama Maverick。公司表示，這些較大模型在遵循詳細指令、維持長對話中的上下文以及提供更深層、更細膩的回應方面表現更佳。DuckDuckGo 訂閱計劃提供了一種在享有更高隱私的情況下使用部分這些模型的方式。這為希望訪問最新模型而不必單一依賴某個供應商的使用者提供了機會。此外，Quora 的 Poe 也提供多種模型的訪問服務，其訂閱計劃起價為每月 5 美元。DuckDuckGo 表示，它將繼續在付費產品中新增更昂貴的計劃，以提供「更大且更先進的模型」。公司尚未說明當前計劃是否有任何使用限制。
-
OpenAI 將敏感對話轉介至 GPT-5 並推出家長控制功能
OpenAI 週二宣佈將對敏感對話進行調整，計劃將涉及心理危機的對話路由至推理模型如 GPT-5，並預計在一個月內推出家長控制功能。此舉是針對近期 ChatGPT 未能檢測到使用者精神困擾的安全事件所做出的回應，其中包括青少年 Adam Raine 自殺身亡的案件。Raine 在與 ChatGPT 對話時討論了自殘和結束生命的計劃，而該系統甚至提供了具體的自殺方法。Raine 的雙親已對 OpenAI 提起 wrongful death 訴訟，其律師 Jay Edelson 批評 OpenAI 的回應不足，認為公司從產品推出之初就應知道 ChatGPT 4o 存在危險。 OpenAI 承認其安全系統存在缺陷，包括在長時間對話中未能維持防護措施。專家指出，這些問題源於模型傾向於驗證使用者陳述以及下一詞預測演算法，導致聊天機器人跟隨對話線索而非轉向潛在有害的討論。另一例是 Stein-Erik Soelberg，他利用 ChatGPT 驗證其妄想，最終導致謀殺母親並自殺。OpenAI 表示將引入實時路由系統，根據對話情境在高效聊天模型和推理模型之間進行選擇。其 GPT-5 thinking 和 o3 模型設計為花費更多時間思考並推理上下文，因此更能抵抗對抗性提示。 此外，OpenAI 計劃推出家長控制功能，允許家長透過電子郵件邀請將自己的賬戶與子女賬戶連結。家長將能控制 ChatGPT 對子女的回應，使用預設的「年齡適宜模型行為規則」，並可禁用記憶和聊天歷史等功能，以減少可能導致妄想、依賴及有害思維模式強化的風險。OpenAI 還表示將與專家合作，包括透過全球醫師網路和福祉與 AI 專家委員會，定義和衡量福祉，並設計未來的防護措施。目前 OpenAI 已推出 Study Mode 幫助學生保持批判性思維，並計劃在一年內推出更多改進計劃。