來源類型: 新聞
「新聞」來源類型(news=新聞 / paper=論文 / blog)的 AI 內容。
-
google推出偽裝電話檢測功能以防範ai深度假訊息詐騙
Google 於週二宣佈，Android 系統將推出偽裝電話偵測功能，以保護使用者免受 AI 深度偽造技術所引發的詐騙侵害。該功能將於本月在全球範圍內透過 Phone by Google 應用程式向 Android 12 及以上裝置推出，首批使用者為 Pixel 手機。隨著人們越來越拒絕接聽未知號碼來電，詐騙者正改變戰術，利用 AI 深度偽造技術偽裝成受信任的電話號碼，並模仿權威人士、家人或僱主的聲音進行詐騙。例如，使用者可能接到顯示來電顯示為「媽媽」且聲音完全相同的電話，但實際上詐騙者正使用 AI 工具冒充其母親，要求支付虛構緊急狀況的款項。此新功能預設開啟並自動在後臺運作。Google 解釋稱，該功能類似於裝置間的「數位握手」。當聯絡人使用 Phone by Google 呼叫使用者時，對方手機會傳送靜音確認訊號至使用者裝置以驗證來電合法性。若詐騙者試圖冒充受信任的聯絡人，初始確認訊號將缺失，使用者裝置會立即察覺並向聯絡人實際裝置傳送訊號進行二次確認。若聯絡人真實裝置表示「目前未進行通話」，使用者螢幕將顯示警告提示其立即結束通話。Google 指出，此技術建立在富通訊服務（RCS）之上，使其他應用程式和企業也能採用該技術。此次偽裝電話偵測功能的發布與 Android 的其他更新一同推出，其中包括 Google 照片的新功能，允許使用者混合搭配服裝並在虛擬中試穿。新的「衣櫥」功能會將照片庫中的服裝編目為可瀏覽的快照。該功能將於下週向美國、印度和巴西的合格使用者（Android 10+）推出。此外，Google Play 書籍新增「追趕進度」功能，讓使用者可跳回故事並獲得摘要，使用者還可標記段落以提問。這些功能今日對部分英文標題推出。Google 還透過「圈選搜尋」功能實現整套服裝的搜尋，現在可一次找出整套服裝中的所有物品，無需逐一搜尋。此更新現已適用於所有具備圈選搜尋功能的 Android 14 及以上裝置。
-
微軟提供開發者更優化的方式控制AI代理行為
隨著人工智慧代理（AI agents）能力日益增強，企業在將其應用於各種應用程式、工作流與產品時，面臨確保代理在不同環境中執行正確任務的新挑戰。微軟推出名為代理控制規範（Agent Control Specification，簡稱 ACS）的新開源標準，旨在為開發者提供更一致且細緻的代理控制方式。該規範允許開發、合規與安全團隊自行定義代理需遵循的政策，包括規定代理可執行的動作、禁止的動作、何時需要人類批准行動，以及應記錄哪些證據以供後續審查。這些政策檔案會在代理執行任務的幾個「攔截點」進行檢查，確保其不超出安全範圍。 目前開發者常透過系統提示、自訂程式碼檢查或分類器來控制代理行為，但這些方法往往導致控制碎片化，難以審計且無法跨框架、介面與系統重複使用。ACS 旨在將這些控制整合至共同的治理層，讓政策可在多個工作階段檢查，例如在接收輸入前、呼叫工具前、工具返回結果後以及最終回應傳送給使用者前。政策可允許、阻擋行動、刪去敏感資訊或要求人類批准。開發者亦可加入分類器、使用大型語言模型（LLM）作為政策審判者，並加入邏輯來檢查工具呼叫、選擇、輸入準確度、輸出使用與回應。由於政策可寫成單一檔案並隨代理打包，安全政策可隨代理跨不同框架與環境移動。ACS 正以軟體開發套件（SDK）形式推出，並提供針對 LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI、MCP 工具等平臺的外掛支援。
-
川普簽署較窄範疇行政命令規管AI後續因業界反對
美國總統唐納德·特朗普於週二簽署行政命令，旨在讓政府在 AI 模型公開前有機會進行審查。該命令要求特定 AI 公司自願在產品發布前 30 天將新模型提交給政府測試或評估。此前草案曾要求提前 90 天審查，但受 AI 產業內部人士推動縮短至兩週視窗的影響，特朗普最終延遲簽署了較具挑戰性的版本。特朗普曾計劃在 5 月底簽署更嚴格的版本，但遭包括風投資本家及前白宮 AI czar David Sacks 在內的產業反推而延後。總統當時表示不希望阻礙美國 AI 企業對華競爭，並強調此命令不授權強制性的政府許可、預先審查或批准要求。特朗普原計劃與矽谷頂尖 CEO 共同簽署，但最終私下簽署了現行版本。此外，該命令指示司法部將 AI 輔助駭客攻擊及未經授權訪問等犯罪視為高優先順序執法領域。這是特朗普針對 AI 簽署的首份行政命令，去年 12 月他曾簽署另一份命令，要求開發統一的國家 AI 政策框架以預先抵銷各州 AI 法律。
-
OpenAI 發布新 Codex 工具協助辦公室工作
OpenAI 正積極拓展企業使用者市場，於週二發布了 Codex 代理工具的新功能，旨在擴大其在職場的應用範圍。根據內部報告，Codex 目前擁有超過 500 萬名每週活躍使用者，自二月桌面應用程式推出以來增長超過六倍。雖然開發者仍是最大使用者群體，但知識工作者已佔約 20% 且增長速度是開發者的三倍。為吸引這些使用者，OpenAI 推出了六個針對特定職業的插補程式，涵蓋資料分析、創意製作、銷售、產品設計、股權投資及投資銀行。這些工具整合了指令與上下文，可讓 Codex 模擬特定工作，並提供即插即用的高效體驗。此外，OpenAI 還推出了 Sites 功能，允許 Codex 將工作成果輸出為託管互動網站，並與 Wix、Base44、Replit、Lovable、Figma 及 Emergent 等夥伴合作。新的註解功能也允許使用者指定檔案特定部分以進行更精確的指令操作。這些企業功能推出僅三週後，OpenAI 便成立了名為 OpenAI Deployment Company 的合資企業，該合資企業獲得超過 40 億美元的全球投資機構資金，旨在將 OpenAI 工具更深入地整合進全球企業的業務基礎設施與工作流中。OpenAI 首席營收官 Denise Dresser 表示，AI 已具備在組織內執行有意義工作的能力，當前挑戰在於協助企業將這些系統整合到其業務驅動的基礎設施中。