文章
所有發布的 AI 新聞與論文。
-
瀏覽器戰爭再現，這次由人工智慧驅動
OpenAI 近日推出名為 Atlas 的瀏覽器，該產品以 ChatGPT 為核心動力，允許使用者透過自然語言進行網頁瀏覽，並具備可自主完成任務的「代理模式」。此舉被視為近期最重大的瀏覽器發布之一，然而該產品在問世時伴隨著未解決的安全漏洞，可能導緻密碼、電子郵件及敏感資料洩漏。TechCrunch 的 Equity 播客節目邀請了 Max Zeff、Anthony Ha 和 Sean O'Kane 三位專家，深入剖析 Atlas 的問世情況、替代瀏覽器的興起浪潮、導致部分網路停擺的 AWS 崩潰事件，以及本週其他科技與創業新聞。聽眾可透過 Apple Podcasts、Overcast、Spotify 等平臺訂閱 Equity 播客，並關注其於 X 和 Threads 上的官方帳號 @EquityPod。
-
AI瀏覽器代理的顯著安全風險
OpenAI 推出的 ChatGPT Atlas 與 Perplexity 的 Comet 等新型 AI 驅動的網頁瀏覽器，正試圖取代 Google Chrome 成為數十億使用者進入網際網路的主要入口。這些產品的核心賣點在於其網頁瀏覽 AI 代理，承諾替使用者點選網站並填寫表單以完成任務。然而，消費者可能未意識到代理式瀏覽帶來的重大隱私風險。 cybersecurity 專家指出，與傳統瀏覽器相比，AI 瀏覽器代理對使用者隱私構成更大威脅。為了發揮最大效用，這些 AI 瀏覽器要求獲取高度許可權，包括檢視和操作使用者的電子郵件、日曆及聯絡人列表。測試顯示，雖然 Comet 和 ChatGPT Atlas 的代理在簡單任務上表現尚可，但面對複雜任務時往往效率低下，感覺更像花哨的把戲而非真正的生產力提升。 主要擔憂在於「提示注入攻擊」，這是一種惡意行為者將惡意指令隱藏在網頁中，誘導 AI 代理執行命令的漏洞。若缺乏足夠防護，攻擊者可能導致代理洩露使用者資料或代為進行惡意操作，如非預期購買或發布社交媒體貼文。Brave 公司研究人員指出，間接提示注入攻擊是整個 AI 瀏覽器類別面臨的系統性挑戰。儘管 OpenAI 推出了「登出模式」限制代理登入狀態，Perplexity 也建立了即時檢測系統，但專家認為大型語言模型難以區分指令來源，此問題尚未完全解決。安全專家建議使用者使用獨特密碼與多因素認證，並限制 AI 瀏覽器對銀行、健康等敏感帳戶的訪問許可權。隨著 OpenAI 和 Perplexity 等公司推出新工具，相關安全風險可能隨之擴大，使用者應謹慎評估許可權授予範圍。
-
AI瀏覽器是為誰而設計的？
OpenAI 本週推出了名為 ChatGPT Atlas 的 AI 驅動網頁瀏覽器，引發了關於是否應放棄 Safari 的討論。在 Equity 播客的最新一集中，Max Zeff、Sean O'Kane 與主持人探討了瀏覽器生態系，包括一些較不知名的替代方案。儘管 OpenAI 擁有日益龐大的資金輪次，但 Max 測試後表示，這些 AI 瀏覽器帶來的效率提升至多僅有「輕微」，且使用者常目睹 AI 代理在網站上無目的點選，這並非普通使用者真正所需，且存在顯著的安全風險。Anthony 表示他仍使用 Safari，但已開始嘗試非 Google 的搜尋引擎，以減少搜尋結果頂部出現的生成式 AI 內容。他擔憂若 AI 瀏覽器普及，網頁的重要性將隨之下降，因為瀏覽行為將更多由 AI 介面和聊天機器人控制。Max 指出，雖然科技業常宣稱正在構建「代理式網頁」，但實際體驗缺乏明確價值主張，普通使用者難以理解為何要使用這些工具。Sean 則認為，許多公司無法在瀏覽器市場獲利，因為無法單靠瀏覽器產品賺錢，但 OpenAI 因資金充裕，可無需短期獲利即可讓產品發展。他預測 Google 未來可能終止布林搜尋，但目前尚未發生。
-
高中AI安全系統誤將洋蔥圈袋識別為潛在武器
美國馬裡蘭州巴爾的摩縣肯伍德高中學生塔基·艾倫（Taki Allen）近日遭遇一起令人擔憂的事件。該生被報告在學校被手銬束縛並接受搜查，原因是學校的 AI 安全系統將他手中的一袋多力多滋（Doritos）薯片誤判為疑似火器。艾倫向 CNN 聯播網 WBAL 表示，當時他僅用兩隻手和一根手指拿著薯片袋，但系統卻發出警報，導致他被要求雙膝跪地、雙手背在身後並戴上腳鐐。校方主管史密斯校長（Principal Katie Smith）在與家長溝通的宣告中指出，學校安全部門已審查並取消了槍支檢測警報，但史密斯當時並未立即意識到警報已被取消，因此仍向學校資源警官報告了該情況，最終導致當地警察被召喚。負責運營 AI 槍支檢測系統的 Omnilert 公司向 CNN 表示，對該事件發生表示遺憾，並向受影響的學生及社群表達關切。儘管如此，Omnilert 同時強調，該過程是依照預期運作的。此事件引發了對自動識別系統誤判可能對學生造成嚴重身心創傷的廣泛討論。