實體: Gemini
所有提到 Gemini 的 AI 新聞與動態。
-
十分之一美國青少年每天使用AI聊天機器人，但安全隱患日益受關注
美國皮尤研究中心（Pew Research Center）於週二發布研究，探討青少年如何使用社交媒體與人工智慧聊天機器人。澳洲計劃從週三起對十六歲以下兒童實施社交媒體禁令，而美國外科醫生總長去年也呼籲平臺在產品上貼上警告標籤。皮尤發現，97% 的青少年每日使用網路，約 40% 的人表示「幾乎一直線上」，此資料雖較去年（46%）下降，但遠高於十年前（24%）的水平。 關於人工智慧的使用，約三分之一的美國青少年每天使用聊天機器人，其中 4% 幾乎持續使用。59% 的青少年使用 ChatGPT，其普及率是第二名 Google 的 Gemini（23%）和第三名 Meta AI（20%）的兩倍以上。46% 的青少年每週至少使用幾次，而 36% 從未使用。研究指出，人種、年齡與家庭收入影響使用習慣。約 68% 的黑人與西班牙裔青少年表示使用聊天機器人，高於白人的 58%。黑人青少年使用 Gemini 和 Meta AI 的可能性是白人的兩倍。在家庭年收入方面，超過 62% 的家庭年收入高於 75,000 美元的青少年使用 ChatGPT，而低於此門檻的家庭中，Character.AI 的使用率是兩倍以上（14%）。 年齡層顯示，15 至 17 歲青少年比 13 至 14 歲者更頻繁使用社交媒體與 AI。然而，這些工具可能導致成癮與心理傷害。至少兩起青少年自殺案中，ChatGPT 製造商 OpenAI 被指控提供自縊詳細步驟，其中一起涉及十六歲學生 Adam Raine。OpenAI 主張不應承擔責任，因為受害者繞過安全功能。Character.AI 也因類似事件面臨審查，並決定停止向未成年人提供聊天機器人，改為推出類似冒險遊戲的產品。儘管自殺討論僅佔 ChatGPT 活躍使用者的 0.15%，但每週仍有超過一百萬人與聊天機器人討論自殺。精神科醫師 Nina Vasan 指出，即使工具非為情感支援設計，公司仍應調整模型以解決使用者福祉問題。
-
Google 頭款 AI 眼鏡預計明年問世
Google 預計於 2026 年推出其首款 AI 眼鏡，此訊息來自公司官方部落格。在 5 月的 I/O 活動中，Google 宣佈與 Gentle Monster 和 Warby Parker 合作，開發基於 Android XR 作業系統的消費級穿戴裝置。由於笨重頭戴式裝置不適合日常使用，智慧眼鏡因其隱蔽性而更具吸引力。Google 表示，為了讓 AI 和 XR 真正有用，硬體必須與生活完美融合並符合個人風格，使用者可根據需求調整重量、風格與沉浸感的平衡。 Google 正在開發多種 AI 眼鏡，其中一款採用無螢幕設計，利用內建揚聲器、麥克風和相機讓使用者與 Gemini 互動或拍照；另一款則具備內建顯示器，僅對佩戴者可見，可用於顯示導航或字幕。此外，Google 還展示了來自 Xreal 的 Project Aura 有線 XR 眼鏡預覽，該產品位於笨重頭戴裝置與輕便眼鏡之間，除內建顯示器外，還可作為擴充套件工作或娛樂裝置，讓使用者如同在進階頭戴裝置中一樣使用 Google 產品或串流影片。 雖然 Meta 在智慧眼鏡開發上已佔先，但 Google 現在已加入 Apple 和 Snap，預計明年將以自有硬體挑戰 Meta。Meta 的成功部分歸功於與 Ray-Ban 的合作，並在零售店銷售產品。Google 與 Warby Parker 的合作似乎將採取類似策略，目前已承諾投入 7500 萬美元支援該眼鏡公司的產品開發與商業化成本。若 Warby Parker 達成特定里程碑，Google 將額外承諾 7500 萬美元並取得該品牌的股權。
-
Google 說明 Chrome 代理人功能的安全措施
隨著瀏覽器開始實驗代理功能，這些功能能代表使用者執行預訂門票或購物等行動，但也伴隨資料或金錢損失的安全風險。Google 在 Chrome 中詳細介紹了其利用觀察模型與使用者同意機制來處理安全的方法，並預告這些代理功能將於九月預覽，未來幾個月內逐步推出。Google 使用多個模型來監控代理行動，其中建立了一個使用 Gemini 構建的使用者對齊評論員（User Alignment Critic），該模型會審查規劃模型為特定任務構建的行動專案。若評論員認為規劃任務未達成使用者目標，會要求規劃模型重新思考策略。值得注意的是，評論員模型僅能檢視建議行動的後設資料，無法接觸實際網頁內容。 為了防止代理訪問被禁止或不可信的網站，Google 採用代理源集（Agent Origin Sets）機制，限制模型僅能訪問只讀源和可寫源。只讀源允許 Gemini 消耗內容，例如購物網站中與任務相關的清單，但不包括廣告。代理僅被允許點選或輸入頁面中的特定 iframe。這種區分確保僅有限源集的資料可供代理使用，且僅能傳遞至可寫源，從而限制跨源資料洩漏的威脅向量，並讓瀏覽器有能力阻止將不可讀資料傳送給模型。此外，Google 透過另一觀察模型調查 URL 以監控頁面導航，防止導航至有害的模型生成網址。 對於涉及銀行或醫療資料等敏感任務，Google 將決策權交還使用者。當代理嘗試導航至敏感網站時，會先詢問使用者；對於需要登入的網站，則詢問使用者是否允許 Chrome 使用密碼管理員。Google 強調代理模型不會接觸密碼資料，且在進行購買或傳送訊息等行動前也會先詢問使用者。除了上述措施，Google 還部署了提示注入分類器以阻止不當行動，並測試代理功能對抗研究人員建立的攻擊。其他 AI 瀏覽器廠商也關注安全問題，Perplexity 於本月早些時候發布了新的開源內容檢測模型，用於防止針對代理的提示注入攻擊。
-
OpenAI 展示企業成功案例，內部曾因 Google 威脅發出「紅色警報
OpenAI 於週一發布新資料，顯示其企業級 AI 工具使用量在過去一年激增。自 2024 年 11 月以來，ChatGPT 訊息量增長 8 倍，員工報告每天可節省最多一小時。此發現發生在執行長 Sam Altman 傳送關於 Google 競爭威脅的內部「程式碼紅」備忘錄後一週。儘管近 36% 的美國企業是 ChatGPT Enterprise 客戶，遠高於 Anthropic 的 14.3%，但 OpenAI 的營收仍主要來自受 Google Gemini 威脅的消費者訂閱。OpenAI 承諾在未來幾年投入 1.4 兆美元基礎設施，因此企業增長至關重要。首席經濟學家 Ronnie Chatterji 指出，雖然消費者很重要，但企業採用技術帶來的經濟效益最大。 資料顯示，使用 OpenAI API 的組織消耗的「推理 token」比一年前增加 320 倍，這可能導致能源成本高昂且不可持續。然而，自定義 GPT 的使用量今年增長 19 倍，現佔企業訊息的 20%，BBVA 銀行被引用為例，其使用超過 4000 個自定義 GPT。員工報告每天節省 40 到 60 分鐘，且四分之三的受調查者表示 AI 讓他們能執行以前無法完成的技術任務。程式設計相關訊息在工程、IT 和研發團隊之外增加了 36%。儘管開放式編碼可能帶來安全漏洞，OpenAI 已推出名為 Aardvark 的代理安全研究員進入私人測試階段。 報告也發現，即使是活躍的企業使用者也未充分利用資料分析、推理或搜尋等進階工具。首席營運官 Brad Lightcap 表示，全面採用 AI 需要思維轉變和更深度的工作流程整合。此外，AI 採用存在差距，部分「前沿」員工使用更多工具節省更多時間，而部分公司仍將 AI 視為單純的軟體。OpenAI 領導層將此視為落後者迎頭趕上的機會，但也暗示為員工訓練 AI 複製工作可能意味著倒數時鐘。