Google Gemini 被評為對兒童和青少年具高風險的新安全評估

美國非營利組織 Common Sense Media 於週五發布了對 Google Gemini AI 產品的風險評估報告。該組織指出，雖然 Gemini 明確告知兒童其為電腦而非朋友，這有助於減少導致偏執等心理問題的風險，但在多個方面仍有改進空間。報告發現，Gemini 的「13 歲以下」和「青少年體驗」層級在底層技術上與成人版本幾乎相同，僅新增了部分安全功能。Common Sense Media 強調，兒童安全應從產品設計之初就納入考量，而非事後修改。分析顯示，Gemini 仍可能向兒童分享不適當或危險的內容，包括性、毒品、酒精資訊以及不安全的心理健康建議，後者尤其令家長擔憂，因為近期已有青少年因諮詢 AI 而自殺的案例。OpenAI 也面臨首起 wrongful death 訴訟，一名 16 歲男孩在與 ChatGPT 對話後自殺。此外，Apple 正考慮將 Gemini 用於下一代 Siri，這可能進一步增加青少年接觸風險。Common Sense Media 批評 Gemini 忽略了不同年齡層兒童的需求差異，將兩款產品均評為「高風險」。Gemini 專案主管 Robbie Torney 表示，AI 平臺應根據兒童發展階段提供量身打造的指導，而非採用一刀切的方法。Google 對評估表示反對，稱其已針對 18 歲以下使用者實施特定政策並進行紅隊測試，但也承認部分回應未達預期，已加強防護。Common Sense Media 此前評估過 OpenAI、Perplexity、Claude 等服務，其中 Meta AI 和 Character.AI 被評為不可接受風險，Perplexity 為高風險，ChatGPT 為中等風險，而 Claude 則為極低風險。