跳至內容
AI 新聞站
返回

微軟提供開發者更優化的方式控制AI代理行為

隨著人工智慧代理(AI agents)能力日益增強,企業在將其應用於各種應用程式、工作流與產品時,面臨確保代理在不同環境中執行正確任務的新挑戰。微軟推出名為代理控制規範(Agent Control Specification,簡稱 ACS)的新開源標準,旨在為開發者提供更一致且細緻的代理控制方式。該規範允許開發、合規與安全團隊自行定義代理需遵循的政策,包括規定代理可執行的動作、禁止的動作、何時需要人類批准行動,以及應記錄哪些證據以供後續審查。這些政策檔案會在代理執行任務的幾個「攔截點」進行檢查,確保其不超出安全範圍。

目前開發者常透過系統提示、自訂程式碼檢查或分類器來控制代理行為,但這些方法往往導致控制碎片化,難以審計且無法跨框架、介面與系統重複使用。ACS 旨在將這些控制整合至共同的治理層,讓政策可在多個工作階段檢查,例如在接收輸入前、呼叫工具前、工具返回結果後以及最終回應傳送給使用者前。政策可允許、阻擋行動、刪去敏感資訊或要求人類批准。開發者亦可加入分類器、使用大型語言模型(LLM)作為政策審判者,並加入邏輯來檢查工具呼叫、選擇、輸入準確度、輸出使用與回應。由於政策可寫成單一檔案並隨代理打包,安全政策可隨代理跨不同框架與環境移動。ACS 正以軟體開發套件(SDK)形式推出,並提供針對 LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI、MCP 工具等平臺的外掛支援。


分享這篇文章:

上一篇
google推出偽裝電話檢測功能以防範ai深度假訊息詐騙
下一篇
川普簽署較窄範疇行政命令規管AI後續因業界反對