谷歌推出了Agent Executor，這是一個(gè)開源運(yùn)行時(shí)工具，旨在幫助企業(yè)更可靠地大規(guī)模運(yùn)行AI智能體。隨著業(yè)界關(guān)注點(diǎn)從構(gòu)建智能體原型轉(zhuǎn)向管理生產(chǎn)環(huán)境部署的運(yùn)營挑戰(zhàn)，這一工具應(yīng)運(yùn)而生。

為應(yīng)對生產(chǎn)環(huán)境相關(guān)挑戰(zhàn)，該運(yùn)行時(shí)工具配備了支持長時(shí)間運(yùn)行和分布式智能體工作流的能力。

長時(shí)間運(yùn)行的智能體工作流是指AI驅(qū)動的任務(wù)，執(zhí)行時(shí)間從幾分鐘到數(shù)天不等，通常涉及多個(gè)步驟、系統(tǒng)交互、等待人工輸入或從中斷中恢復(fù)后才能完成。

針對此類工作負(fù)載，該運(yùn)行時(shí)包含持久化執(zhí)行支持，允許工作流在中斷或人工審批后恢復(fù)運(yùn)行。此外還提供安全沙箱隔離智能體組件、分布式工作流的會話一致性控制，以及旨在網(wǎng)絡(luò)中斷期間保持執(zhí)行狀態(tài)的連接恢復(fù)功能。谷歌在博客文章中寫道。

該運(yùn)行時(shí)還支持"軌跡分支"功能，允許開發(fā)者從保存的檢查點(diǎn)測試替代執(zhí)行路徑，而不會丟失先前的上下文。

此外，Agent Executor支持多種部署模式，包括本地部署、預(yù)構(gòu)建或自定義托管智能體。谷歌表示，用戶可以根據(jù)需要在Google Antigravity（谷歌構(gòu)建的前沿智能體）、用戶構(gòu)建并由谷歌托管的智能體、自定義智能體以及使用Agent2Agent協(xié)議的智能體之間靈活組合。

分析師和專家認(rèn)為Agent Executor的功能對開發(fā)者和企業(yè)都具有價(jià)值。

博通高級可靠性工程師Advait Patel表示："持久性、編排和可恢復(fù)性是企業(yè)生產(chǎn)環(huán)境智能體的真正障礙。"

他指出："阻礙企業(yè)采用的是當(dāng)容器重啟時(shí)丟失狀態(tài)的智能體、并發(fā)寫入時(shí)損壞的會話，或無法從網(wǎng)絡(luò)故障中恢復(fù)的長時(shí)間運(yùn)行工作流。一旦你的智能體在真實(shí)系統(tǒng)上執(zhí)行操作，你無法承受它在執(zhí)行到一半時(shí)忘記自己做了什么。"

Patel指出："Agent Executor中的事件日志、快照、單寫入者模型和連接恢復(fù)正是SRE團(tuán)隊(duì)過去一年一直在臨時(shí)拼湊的功能。"他補(bǔ)充說，LangChain和AutoGen等現(xiàn)有框架非常適合原型開發(fā)，但在智能體運(yùn)行數(shù)小時(shí)或數(shù)天的生產(chǎn)環(huán)境中往往會崩潰。

Avasant研究總監(jiān)Gaurav Dewan表示，對于首席信息官來說，該運(yùn)行時(shí)的安全沙箱和檢查點(diǎn)等運(yùn)營保障措施對于事件分析和可審計(jì)性同樣重要。

同時(shí)，他警告說，僅憑運(yùn)行時(shí)的功能并不能解決首席信息官在企業(yè)AI部署中持續(xù)面臨的更廣泛的治理和監(jiān)督挑戰(zhàn)。

他說："智能體決策的問責(zé)制、可解釋性、策略執(zhí)行以及跨互聯(lián)系統(tǒng)的安全訪問等問題仍在演進(jìn)中。因此，雖然分布式運(yùn)行時(shí)可以加強(qiáng)智能體部署的運(yùn)營基礎(chǔ)，但首席信息官層面關(guān)于信任、合規(guī)和企業(yè)控制的考慮可能需要超越運(yùn)行時(shí)基礎(chǔ)設(shè)施本身的額外治理和監(jiān)督層。"

然而，谷歌并非唯一試圖塑造企業(yè)AI智能體新興基礎(chǔ)設(shè)施層的公司。其他云服務(wù)巨頭，如微軟的AutoGen和AWS的Bedrock AgentCore，也在推廣開放或可互操作的框架以獲得戰(zhàn)略優(yōu)勢。

Dewan說："越來越多的跡象表明，云服務(wù)巨頭正在趨向于一種模式，即在技術(shù)棧頂層結(jié)合開放或可互操作的工具，同時(shí)將貨幣化集中在底層基礎(chǔ)設(shè)施層。"

他補(bǔ)充說："谷歌、微軟和AWS越來越多地提供SDK、智能體框架和編排工具來推動開發(fā)者采用和生態(tài)系統(tǒng)增長，同時(shí)繼續(xù)通過計(jì)算基礎(chǔ)設(shè)施、托管AI平臺、數(shù)據(jù)服務(wù)和可觀測性功能創(chuàng)造價(jià)值。"

根據(jù)Patel的說法，谷歌圍繞Agent Executor的策略讓人想起該云服務(wù)巨頭十年前在Kubernetes上走過的路："免費(fèi)提供運(yùn)行時(shí)，通過Gemini企業(yè)智能體平臺和托管智能體API等服務(wù)推動谷歌云的消費(fèi)。"

他補(bǔ)充說："云服務(wù)巨頭已經(jīng)意識到，專有智能體框架不會在企業(yè)規(guī)模上被采用。真正的利潤在于云消費(fèi)、托管服務(wù)和模型推理。頂層的工具需要開放，否則沒人會信任它們。"

Q&A

Q1：Agent Executor是什么？它有什么作用？

A：Agent Executor是谷歌推出的開源運(yùn)行時(shí)工具，旨在幫助企業(yè)更可靠地大規(guī)模運(yùn)行AI智能體。它支持長時(shí)間運(yùn)行和分布式智能體工作流，提供持久化執(zhí)行、安全沙箱、會話一致性控制和連接恢復(fù)等功能，解決生產(chǎn)環(huán)境中智能體部署的運(yùn)營挑戰(zhàn)。

Q2：Agent Executor解決了哪些生產(chǎn)環(huán)境中的實(shí)際問題？

A：Agent Executor主要解決智能體在生產(chǎn)環(huán)境中的狀態(tài)丟失、會話損壞和無法從中斷恢復(fù)等問題。它通過事件日志、快照、單寫入者模型和連接恢復(fù)功能，確保智能體在容器重啟、網(wǎng)絡(luò)故障或需要人工審批時(shí)能夠保持執(zhí)行狀態(tài)并恢復(fù)運(yùn)行，這些都是企業(yè)級部署的關(guān)鍵需求。

Q3：谷歌推出Agent Executor的戰(zhàn)略意圖是什么？

A：谷歌的策略類似于十年前推廣Kubernetes的做法：免費(fèi)提供開源運(yùn)行時(shí)工具以推動開發(fā)者采用和生態(tài)系統(tǒng)增長，同時(shí)通過底層的云計(jì)算基礎(chǔ)設(shè)施、托管AI平臺、數(shù)據(jù)服務(wù)和模型推理等服務(wù)實(shí)現(xiàn)商業(yè)價(jià)值。這種開放頂層工具、貨幣化底層基礎(chǔ)設(shè)施的模式正成為云服務(wù)巨頭的共同趨勢。