Google Cloud AI Live + Labs 2026 活動心得:Agent 要從 POC 走到 Production

2026 年 10 月 20 日,我去參加了 Google Cloud AI Live + Labs。主題圍繞在 AI Agent、Agentic Workplace、Google ADK(Agent Development Kit)、Multi-Agent 架構與 Agent Governance(治理)。
先說明一下這篇的性質:內容依我的現場筆記整理,部分產品名稱、版本與展示功能我還沒有獨立查證,會在文中標註「待查證」。文中的架構範例與 POC 建議,是我自己延伸的研究方向,不是主辦單位實際展示的內容。
這場活動在談什麼
一句話:AI Agent 怎麼從 Demo 變成能在正式環境長期運作的企業級系統。
過去生成式 AI 多半用在對話、摘要、內容生成與程式碼輔助。Agentic AI 則更進一步,能使用工具、存取資料、協調流程,甚至和其他 Agent 分工。Google 台灣總經理在開場丟了一句話:
How is AI driving ROI? In One Word: Agents
企業關心的重點,已經從模型本身有多強,轉向 AI 能不能真的把工作做完、提升生產力,並且算得出投資報酬。
我把整天聽下來的觀察歸成五件事:
- Agentic Workplace:AI 從被動回答的助理,變成工作流程裡的數位協作者。
- Multi-Agent 架構:靠專業分工與不同模型的成本差異,改善品質與 Token 效率。
- Workflow Engineering:把 Agent 的推理能力,和可控制、可重複的流程結合。
- Agent Governance:身分、權限、安全、監控與生命週期的管理。
- Production Readiness:不只做出 Demo,還要長期、安全、穩定、划得來。
整場下來,我覺得核心問題是:怎麼建出品質夠好、成本可控、而且能持續管理的 Agent 系統?
Agent 的四個核心支柱
活動提出 Four Pillars of an Agent:
| 支柱 | 概念 | 作用 |
|---|---|---|
| Reasoning Core | 推理核心 | 理解任務、分析問題、決定下一步 |
| Memory Layer | 記憶層 | 管理對話、任務狀態與上下文 |
| Tool Integrations | 工具整合 | 連接外部服務、資料與應用程式 |
| Harness | 執行與控制框架 | 協調執行、工具使用與系統行為 |
Harness 被稱為 Critical Layer。我的理解是,它就是包住模型、工具與流程的那層控制機制,工具呼叫、狀態、錯誤處理、權限與可觀測性都歸它管。不過這是我的延伸理解,筆記裡沒有記下講者對 Harness 的具體定義。
另外要留意工具整合的另一面:Agent 能接 API、資料庫、MCP 和其他 Agent,同時也帶來權限過大、資料外洩、惡意輸入與未授權操作的風險。
從 Conversational AI 到 Agentic Workplace
William 分享的主題是 The Next Wave of Growth: Agentic Work,關鍵字是 AI as a Coworker。以前是我問、模型答;之後是 AI 參與工作流程,講者提到 Autonomy(自主性)、Identity(身分)、工具整合與個人化上下文。
- Skills:可重複使用的指令、知識與工作流程。
- Tools:讓 Agent 接上員工既有的工具與企業環境,連帶要處理身分驗證與資料權限。
- Contextual AI:筆記只寫了「個人化、持續學習」。但上下文更新、記憶更新與模型訓練是三件不同的事,現場沒有聽出講者指哪一種。
Gemini Agent 的展示
Eson 示範了長時間任務、Project 檔案管理、工具整合、內建 Skills,還可以展開 Thinking 看推理內容。我筆記上留了個問號「可以寫程式?」,還沒實測。
另外幾個我有記下、但都還要查證的東西:
- Dream Mode:我的第一印象有點像 Codex 的背景學習機制,但正式名稱、功能與運作方式不確定。
- Gemini for Customer Service:語音客服,包含即時對話與台灣國語的語音表現。
- Knowledge Catalog:現場的描述是 The unified context layer behind data accuracy。
- 「Gemini 4 Argon」:筆記多次出現這個名字,但正確的產品名稱與版本待查證,先不下結論。
工作坊一:Google ADK
像 n8n,但不一樣
工作坊的流程與圖形化展示,讓我第一個聯想到 n8n:都有節點、任務、流程與外部工具串接。差別在 ADK 是用程式來建立、組合與管理 Agent,走模組化、可重複使用的路線。
LlmAgent 與 Workflow Agent
這是我覺得整個工作坊最值得記的一張表:
| ADK 元件 | 自身是否需要 LLM 推理 | 用途 |
|---|---|---|
| LlmAgent | 是 | 理解任務、推理、選擇工具 |
| SequentialAgent | 否 | 依序執行子 Agent |
| ParallelAgent | 否 | 平行執行子 Agent |
| LoopAgent | 否 | 重複執行子 Agent |
Workflow Agent 本身不需要 LLM 推理,但它底下的子 Agent 仍可能用 LLM。也就是說,ADK 裡的 Agent 是「架構元件」,不是每一個都有自主決策能力。需要判斷的交給 LlmAgent,順序明確的交給 Workflow Agent。
開發與部署工具
- ADK Web:本機開發與測試 UI,可以檢查工具呼叫、結果與 Console 資訊。
- Agent CLI:筆記記的是可用於部署與切換部署環境。
- Cloud Shell:工作坊裡安裝與操作工具用的雲端終端。
- Agent Runtime:後端執行環境,可再研究容器化與 Console 管理。
幾個省錢的做法
- ModelConsult Tool:現場提到讓模型之間互相呼叫、分工以節省 Token。概念上是主 Agent 接任務,挑其他模型處理子工作再整合。正式名稱、機制與支援版本待查證。
- Skills Lifecycle:長任務不要一次載入所有技能,按需載入,避免上下文過長。
版本方面,筆記寫著「ADK v2.11,不要用 v1」。但我沒記下套件名稱、完整版本與原因,所以只當作現場紀錄,不當成確認過的版本建議。
工作坊二:從 POC 到 Production
這堂我覺得最有共鳴。講者拋出三個把 POC 推向正式環境的挑戰:
- 工具與存取驗證:Agent 代表誰使用工具?能不能寫入、刪除、修改?
- Agent Evaluation:我的筆記形容它是「黑魔法」,因為很難像傳統程式那樣,用固定輸入對固定輸出來驗證。
- Agent Management:Agent 一多,身分、版本、權限與生命週期全部變成管理問題。
兩個口號式的轉變也很好記:
- Monoliths → Mesh:從單一集中式系統,走向網狀的 Agents。職責會更清楚,但協作、權限、追蹤、錯誤歸因、成本與維護也都跟著變重。
- YOLO → Workflows:正式環境不能只靠 Agent 自由發揮,需要 Safety、Legal Compliance 與 Human-in-the-Loop(HITL,人工介入)。查資料可以自動,刪資料、動到金額這類敏感操作,值得加人工確認。
重點是把自主推理,放進可控制的流程裡。
Agent Governance:我覺得最有分量的一段
講者點出 Agent 可能碰到的問題:資料暴露、權限過大、工具呼叫被惡意輸入影響、操作難以追蹤,以及異常 Agent 沒辦法即時停下來。治理分成三個面向:
Visibility(可視性)
- Universal Discovery:集中發現與管理 Agent
- Lifecycle Visibility:觀察使用狀況與生命週期
- Observability:追蹤 Token、工具呼叫、結果與錯誤
要能回答:成本或執行異常時,追得到是哪個 Agent、哪個任務、哪位使用者、哪個工具嗎?
Control(控制)
- Identity、Lifecycle Management、Compliance
- 要分清楚使用者本人的權限,和 Agent 執行時用的權限;Agent 可能代表使用者,也可能有獨立的服務身分。
Security(安全)
- Network and Policy、Threat Detection、Payload Monitoring
- Stopping a Rogue Agent:不只預防,過程中還要能偵測異常、限縮權限或直接中止。
活動提到的相關元件,我整理成對照表:
| 治理需求 | 活動提及的元件 | 我想研究的重點 |
|---|---|---|
| 資源管理 | Agent Registry | 發現、註冊、版本、政策套用 |
| 身分授權 | Agent Identity、IAM、Auth Manager | 身分、權限、委派 |
| 政策控制 | Agent Gateway(IAM Policy、Semantic Policy Engine) | 統一存取與政策 |
| 品質安全評估 | Evaluations | 測試與風險檢驗 |
| 內容防護 | Model Armor | 有害內容與安全檢查 |
| 執行環境 | Agent Runtime | 部署與執行管理 |
舉個講者的例子:建一個查 BigQuery 資料表的 Agent,只允許特定使用者操作,而且不同使用者能呼叫的委派工具也不同。最後要能回答那句話:到底是誰,透過哪個 Agent,對哪個資源,做了什麼操作?
兩個要查證的點:Semantic Policy Engine(用自然語言設政策)如何轉成可執行規則、有什麼限制;Model Armor 在輸入、輸出與工具呼叫各階段怎麼整合。筆記裡還用「地板測試」形容 Model Armor,意思是基本的安全檢驗,不是萬靈丹。
我自己的心得
不是每一步都需要 LLM
看完 ADK 的 Workflow Agent,我最大的感想是 n8n 的文藝復興:Agent 替流程加上了推理能力,但不是所有步驟都該交給 LLM。步驟明確的就維持固定、可驗證的程式邏輯,有不確定性、需要判斷的地方,再讓 LlmAgent 上場。
Token 成本的四個面向
- 模型分工:不同複雜度的任務,用不同成本的模型。
- 上下文管理:Skills Lifecycle、記憶與資料預處理。
- 可觀測性與成本歸因:追蹤 Token、工具呼叫與流程成本。
- 預先測試:靠評估減少錯誤執行、重試與不必要的複雜度。
成本不能只看單次 Token 單價,要看整個任務的總成本與品質。
警報、防禦、止損
單一 POC 看不出來,但多 Agent 系統必須及早想清楚:哪個 Agent 出錯、哪個工具造成異常、Token 有沒有爆量、有沒有權限違規、能不能立刻中止。
IAM 不要最後才補
只要 Agent 牽涉多位使用者、多個部門、不同資料層級,身分與權限就該在架構設計初期納入,不是上線前才補。
不用 Google Cloud 也能借用這些想法
我參加這場活動的目的之一,是想知道:就算不用 Google Cloud 的服務,能不能參考背後的架構理念,自己搭 Agent 系統。我把能力拆成幾塊:
| 能力 | 自行研究的方向 |
|---|---|
| Agent Framework | Agent 定義、工具呼叫、工作流程 |
| Runtime | 任務實際執行環境 |
| Tool Integration | API、資料庫、MCP |
| Registry | Agent、Skills、工具管理 |
| Identity | 身分驗證、權限控制 |
| Gateway | 工具政策、流量與限制 |
| Observability | 執行紀錄、Token、成本與歸因 |
| Evaluation | 品質、安全、任務完成檢驗 |
| Workflow | 固定流程、人工審核 |
這只是能力拆解,不代表每個 Google Cloud 服務都有完全等價的開源替代品。
最簡化的架構大概長這樣:
使用者
↓
任務入口
↓
主 Agent/Workflow
↓
Sub-Agent/Tools
↓
執行結果
橫向再加上身分權限、任務紀錄、Token 用量、錯誤處理、測試評估與人工確認。起步時先確認每個元件是不是真的需要,再逐步擴張。
接下來我打算優先驗證的 POC(都是我自己的規劃):
- POC A:Multi-Agent 與模型分工,比較單一模型與多模型在 Token、品質、時間上的差異。
- POC B:Workflow Agent,比較固定流程與 LLM 自主決策各適合哪些任務。
- POC C:Skills Lifecycle,驗證按需載入對上下文與成本的幫助。
- POC D:Observability,記錄工具呼叫、Token、時間、錯誤與結果。
- POC E:Governance,做一個簡化的使用者、Agent、工具存取限制。
待查證清單
- ADK 工作坊使用的版本與建議版本(含「v2.11,不要用 v1」的原因)
- ModelConsult Tool 的正式名稱與功能
- 「Gemini 4 Argon」、Dream Mode、Knowledge Catalog 的正式資訊
- ADK Agent 與 Gemini App 的整合方式
- Semantic Policy Engine 的政策能力
- Gemini、Claude、Codex 在長時間任務上的比較
- ADK 與 n8n 的維護成本差異
參考資料
結語
這場活動給我最大的收穫,不是多認識幾個 Google Cloud 產品,而是重新想了一遍 AI Agent 的軟體工程。
Agent 不只是替 LLM 加幾個工具。一旦它參與企業流程、跟其他 Agent 協作,就得面對架構、分工、身分驗證、權限、安全、測試、可觀測性、部署與維運,外加一個新的成本變數:Token。
所以要先分清楚哪些工作用固定 Workflow、哪些才需要 LLM 推理,再把 LLM、Workflow、Skills、Tools、Runtime 與 Governance 組成一套能持續管理的系統。
最後的目標很樸實:品質要好,又不能花太多錢。