微軟提供開發者更優化的方式控制AI代理行為

隨著 AI 代理變得越來越強大，企業爭先恐後地將它們應用於各種應用程式、工作流程與產品，現在面臨一個新挑戰：確保代理在不同環境中部署時，能正確執行預期的任務。微軟正透過一個名為 Agent Control Specification（ACS）的新開源標準來解決這個問題，這個標準旨在讓開發者有更一致且細膩的方式，來控制 AI 代理被允許執行哪些動作。這個規範基本上讓開發、合規與安全管理團隊可以自行定義代理應遵循的政策。這些規則可以定義代理可以做什麼、不可以做什麼、什麼情況下需要人類審核動作，以及應該記錄哪些證據供後續審查。這些政策檔會在代理執行任務時，於多個「攔截點」進行檢查，確保其行為不超出預設的邊界。目前開發者正在摸索各種方式來控制他們的 AI 能看見什麼、做什麼，特別是在對話流程中，AI 工作流程出錯常因工具誤用或未預期的動作，導致連鎖失敗。目前開發者可能透過系統提示來指定指令、在應用程式碼中加入自訂檢查，或使用分類器來捕捉問題輸入與輸出。這些方法雖然有效，但往往讓企業面臨零散的控制措施，難以審計與跨不同框架、介面與系統重複使用。微軟 ACS 的目標是將這些控制措施整合至一個共同的治理層級。微軟表示，這個規範可以用來檢查代理在其工作流程的多個階段是否遵守邊界，包括在接收輸入前、呼叫工具前、工具返回結果後，以及最終回應傳送給用戶前。一個政策可以允許某個動作、阻止該動作、刪除敏感資訊，甚至要求人類審核。開發者也可以插入用於輸入與輸出的分類器，用來歸類資訊、預測結果或決定代理應如何回應；加入大型語言模型搭配提示，使其擔任政策的「審判者」；並加入檢查工具呼叫、工具選擇、輸入準確性、輸出使用與回應的邏輯。而且因為這些政策可以寫成單一檔案，因此可以與代理一同打包，讓安全政策能隨著代理跨不同框架與環境移動。ACS 以 SDK 的形式推出，包含 LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI、MCP 工具等插件。