雲端基礎建設長久以來都是以人類為中心設計,人類會搜尋、點擊、滑動與串流,行為穩定且預測性強。AI代理則表現不同,他們可以瞬間釋放大量活動,啟動多個子代理,同時查詢數百個資料庫、搜尋文件與呼叫API,並在幾秒內完成後迅速消失。基於這個前提,亞馬遜正在重新設計其雲端基礎建設的核心部分。週四,AWS推出了OpenSearch Serverless的下一代版本,這是一個完全管理的搜尋與向量資料庫,簡而言之,就是一個用來大量儲存與檢索資訊的系統,專門為代理工作負載設計。AWS表示,這個新系統可以在代理觸發任務時立即擴充,而在閒置時則可以縮小至零。這個發佈反映了科技業界日益增長的認知:原本為人類驅動的互聯網設計的基礎建設,在一個越來越多由代理佔據的環境中,表現並不理想。雖然目前AI代理仍只佔互聯網活動相對較小的比例,但機器產生的流量已經相當顯著,且預計將持續成長。Cloudflare表示,在過去的六個月裡,機器人佔了總HTTP流量的31%。AI爬蟲、搜尋引擎與助理則佔了這段期間所有機器人請求的大約四分之一。Cloudflare高級產品經理Lai Yi Ohlsen對TechCrunch表示:「非人類流量將在2027年上半年超過人類流量。」在上週的Google I/O開發者大會上,公司表示用戶將可以開始將任務委派給AI系統,例如研究購買新聞、預訂旅行、瀏覽網頁以及與應用程式互動。但消費者導向的AI代理並不是唯一需要考慮的對象。企業正在越來越多地在內部以及為客戶部署代理,這在背後產生了新的機器產生流量。因此,雲端供應商與基礎建設公司正在思考如何調整原本為人類設計的系統,以適應這個不斷自主檢索資訊、調用工具並產生機器對機器流量的代理世界。這就是AWS新推出的OpenSearch Serverless的用武之地。Amazon OpenSearch Service總經理Tia White告訴TechCrunch:「時機很明確。代理正在從實驗階段轉入生產階段,他們產生的流量模式是過去基礎建設所無法處理的。」「他們會突然出現高峰,也會在沒有預告的情況下閒置,企業需要搜尋系統能跟上節奏,而不需要為閒置或無用的計算資源付費。」這一代新系統的關鍵技術改變在於將計算與儲存分離,讓計算能在幾秒內擴充以應對代理流量高峰,並縮小至零,讓客戶在代理閒置時支付$0。White表示:「過去,即使在之前的Serverless版本中,你也必須至少有一個執行個體在運行,因為儲存與計算是耦合的,你無法自動根據需求啟動計算資源,因此總是會預留一些閒置計算資源,不管是否在使用。」這就像總是為車位付費,即使你根本沒有使用。而在AWS升級的Serverless版本中,則更像計時車位收費。在發佈時,OpenSearch Serverless將原生整合於Vercel與Kiro等AI開發平台,讓開發者可以無需管理基礎建設,即可部署適用於代理的生產級搜尋與向量後端。這項轉變正在雲端業界逐漸浮現。Databricks與Snowflake正在重新定位為企業數據的AI記憶與檢索系統。Microsoft則推出了Azure的更新版本,用以處理AI代理的流量高峰並在代理之間共享記憶。Cloudflare則與亞馬遜類似,上個月推出了專為代理提供持續環境與即時擴充能力的基礎建設。隨著越來越多公司部署AI代理,對重新設計機器產生工作負載的基礎建設的壓力將越來越大,這也可能讓代理變得更便宜且更容易在更大規模上部署。
互聯網正在為機器重建
分享這篇文章: