AI Agent 完整指南：架構、工具、評測與企業落地

AI Agent 不是「加上工具的聊天機器人」，而是一套能讀取狀態、選擇行動、觀察結果並調整下一步的控制系統。真正困難的部分也不在第一次成功呼叫工具，而在於如何讓它面對不完整資訊、權限邊界與外部系統失敗時，仍能產生可驗證、可復原的結果。

這篇核心指南提供一張決策地圖：先判斷任務是否真的需要 Agent，再逐層設計架構、工具、記憶、評測與治理。文末閱讀路徑會連到各主題的深入文章與實際案例。

一、什麼是 AI Agent？

一個可運作的 Agent，至少包含五個部分：

1. 模型與指令：理解目標、限制與目前觀察。
2. 工具：查詢資料、呼叫 API 或改變外部狀態。
3. 狀態與記憶：保存任務進度、使用者偏好與必要證據。
4. 控制迴圈：決定下一步、檢查工具結果並判斷何時停止。
5. 護欄與評測：限制可執行範圍，留下足以追查的執行紀錄。

因此，Agent 的核心不是「自主程度越高越好」，而是把模型的彈性放在適合的位置，同時用工程機制約束風險。

二、Agent 還是確定性工作流？

先問一個問題：任務路徑能不能在執行前被完整描述？

任務特性	建議方式	原因
步驟固定、規則清楚、錯誤代價高	確定性工作流	容易測試、稽核與重播
步驟固定，但其中一兩步需要語意判斷	工作流內嵌模型	保留控制力，只把模糊判斷交給模型
路徑會依資料與工具結果改變	單一 Agent	需要動態規劃與工具選擇
專業、權限或上下文必須隔離	多 Agent	以清楚邊界分工，而不是只追求更多角色

如果三個條件同時成立，才值得採用 Agent：輸入變化大、解題路徑無法預先列舉，而且每一步結果都能被觀察或驗證。否則，Agent 往往只是增加延遲、成本與除錯難度。

IT 與高風險業務邊界：內部 IT／流程知識問答（OTP 異常、帳號鎖定、VPN 等）若成功條件清楚、證據可凍結評測，適合作為受控 Agent runtime——本站案例以凍結 100 題 IT 題庫驗證。理專適合度、授信、法遵等高風險決策則是 evidence 準備 + 人工邊界，不是全自動 Agent。口徑與 E·P·J·T 接線見 Agentic AI 平台契約。

三、企業級 Agent 的六層架構

1. 介面與任務入口

將自然語言需求轉成結構化任務，補上使用者身分、租戶、可用資料範圍與成功條件。入口層必須拒絕過度模糊或超出權限的要求，而不是把所有問題都交給模型猜測。

2. 編排與控制迴圈

編排層管理計畫、工具選擇、重試、超時與停止條件。正式環境通常需要明確的最大步數、成本上限、人工確認點，以及可安全重播的 idempotency 設計。

3. 工具與 MCP

工具描述必須說清楚前置條件、輸入格式、可能副作用與錯誤語意。MCP 能統一資源與工具的接入方式，但不會自動解決權限、信任與版本相容問題；服務端仍需做最小權限、參數驗證與稽核。

4. 狀態與記憶

短期狀態記錄目前任務，長期記憶保存跨工作階段仍有價值的資訊。不要把完整對話無限累積進 Prompt；應區分事實、偏好、任務產物與暫時推論，並為每種資料設定來源、更新規則與保存期限。

5. 評測與可觀測性

只看最終答案會錯過中間步驟的風險。至少追蹤：任務完成率、工具選擇正確率、參數正確率、證據品質、步數、延遲、成本、人工介入率與失敗復原率。Trace 應能重建「模型看見什麼、選了什麼、工具回了什麼」。

6. 治理與執行環境

把讀取與寫入工具分級，敏感操作加入確認與雙重授權。密鑰不能進入 Prompt 或記憶；租戶資料必須隔離；輸出到外部系統前要經過政策檢查。治理不是上線前最後補的一層，而是工具契約的一部分。

四、何時從單一 Agent 拆成多 Agent？

單一 Agent 的優點是狀態集中、延遲較低、除錯較容易。多 Agent 則適合以下情況：

• 不同角色需要不同資料與工具權限。
• 子任務需要彼此隔離的長上下文。
• 專業領域有清楚輸入與輸出契約。
• 子任務可平行執行，且整合結果的方式明確。

不要用「角色扮演」代替架構邊界。如果所有 Agent 共用同一批工具、資料與 Prompt，多 Agent 多半只會帶來更多 token、更多失敗點與更難追蹤的責任歸屬。建議從單一 Agent 開始，等 trace 顯示穩定的專業分工或權限衝突，再拆分。

五、Agent 應該怎麼評測？

建立評測集時，除了正常案例，也要包含缺資料、工具逾時、權限不足、互相矛盾的來源、Prompt Injection 與需要拒絕的任務。

評測層級	核心問題	代表指標
任務	是否完成使用者真正的目標？	成功率、人工接手率
軌跡	是否用合理步驟抵達結果？	工具選擇、步數、重試率
工具	呼叫是否正確且安全？	參數正確率、副作用錯誤率
答案	結論是否有證據、可理解？	正確性、引用、拒答品質
營運	系統是否能負擔與維護？	P95 延遲、成本、可用性

離線評測用來快速比較版本；線上監控捕捉真實分布與外部系統變化；人工審查則負責高風險、難以規則化的判斷。三者不能互相取代。

實際上線門檻（IT runtime 範例）：本站第一方案例採 凍結 100 題 協議、四級評分（正確／部分正確／拒答正確／錯誤或不安全），要求 0 題錯誤或不安全；Ablation 為 Naive RAG 87%、Hybrid-only 83.5%、完整 Agentic 98%。評分規程見 金融 GenAI 平台工程；案例細節見 Agentic RAG 與 專案頁。98% 是 IT runtime 可信度，不是理專或授信可自動化的通行證。

六、從 PoC 到正式環境的最小路線

1. 選一個成功條件清楚、工具數量有限的任務。
2. 先做確定性基線，再確認 Agent 是否真的提高完成率。
3. 為每個工具定義 schema、權限、副作用與錯誤契約。
4. 保存可重播 trace，建立 30–100 個代表性評測案例。
5. 加入步數、時間、成本上限與人工確認點。
6. 小流量上線，觀察失敗類型，再決定是否需要多 Agent 或長期記憶。

推進正式環境時，Agentic AI 平台契約 要求 E·P·J·T 四層全部接通；下列做法 通不過上線評審：現場 demo 十題、只換更大模型、或線性 RAG（Retrieve → Generate，中間沒有「證據是否充分」）。七條不准繞過的禁制與評審口徑見 93，本篇不重複。

正式環境的完成定義不是「Demo 能跑」，而是團隊能回答：失敗時發生了什麼、誰能介入、資料是否越權、版本是否退步，以及成本是否仍在預算內。

七、主題閱讀路徑

建議依序閱讀（平台三部曲 + 第一方案例）：

1. 金融 GenAI 平台工程：企業級 RAG 的治理與營運 — 平台如何穩定運行
2. Enterprise Agentic AI 治理：Agentic Operating System — 控制面與責任分解
3. Agentic AI 平台契約：E·P·J·T 與上線門檻 — 可複製的平台契約
4. Agentic RAG：向量搜尋遇上代理推理 — 本站第一方案例

延伸閱讀（依主題選讀）：

5. Anthropic 怎麼打造有效 AI Agent：架構模式與實作策略
6. MCP：模型與工具之間的標準介面
7. Agent Development Kit 2.0：多 Agent 工作流
8. 企業 AI Agent 安全：從身分、權限到治理
9. DoorDash Ask Assistant：記憶、評測與企業架構
10. AWS Hoyabit：AgentCore 正式環境架構
11. AWS Super8 ORA：多 Agent 部署實例

專案頁：

• Agentic RAG 企業知識助理案例
• Agentic AI Platform 實戰案例

若任務核心是企業知識檢索，可從 Enterprise RAG 完整指南 繼續。

八、限制與取捨

Agent 不會消除系統複雜度，只會把部分流程決策移到執行期。它特別容易受到模型版本、工具回應、上下文內容與權限設定變化影響。因此，每增加一分自主性，都要補上相應的可觀測性、評測覆蓋與復原機制。

最穩健的策略是：用工作流固定必須確定的部分，用 Agent 處理真正無法預先寫死的部分，並讓每個重要行動都有證據與邊界。

九、一手來源

• Anthropic：Building Effective Agents — workflow 與 agent 的區分、由簡入繁的架構原則。
• OpenAI：A Practical Guide to Building AI Agents — 模型、工具、指令、協調與 guardrail 的實作框架。
• Model Context Protocol：Architecture — host、client、server、能力協商與安全邊界。
• Anthropic：Trustworthy Agents in Practice — 人類控制、透明度、隱私與代理風險的產品化原則。