📋 目錄
課程簡介
AI Agent 是 AI 領域最新也是最令人興奮的發展。這門課程將帶您了解 AI Agent 的原理、架構、工具和應用，從核心概念到企業落地，讓您理解這個強大的新技術。
學習目標：
- 理解 AI Agent 與 Chatbot 的區別
- 掌握 Agent 的核心架構
- 了解 Tool Calling、記憶、RAG 等核心技術
- 了解多 Agent 系統和 MCP 協議
- 評估 AI Agent 的企業應用場景
21.1 AI Agent vs Chatbot
為什麼學_this？
理解 Agent 和 Chatbot 的區別是基礎。
核心教學
Chatbot vs Agent：
| 維度 | Chatbot | AI Agent |
|------|---------|----------|
| 能力 | 對話回覆 | 自主執行任務 |
| 目標 | 回答問題 | 完成任務 |
| 工具 | 無 | 可以使用工具 |
| 記憶 | 短期 | 長期記憶 |
| 自主性 | 被動回應 | 主動行動 |
| 複雜度 | 低 | 高 |
什麼是 AI Agent？
AI Agent 是一個能夠自主思考和行動的 AI 系統。它不僅能回答問題，還能：
- 規劃任務
- 使用工具（瀏覽器、API、數據庫）
- 記住上下文
- 自主決策
Agentic AI 的核心能力：
💼 商業範例
Chatbot 場景：客戶問「訂單到了嗎？」→ Chatbot 回答「您的訂單在運送中」
Agent 場景：客戶說「幫我查訂單狀態，如果延遲就改成另一家物流」→ Agent 查詢訂單 → 發現延遲 → 聯絡物流公司 → 更改配送 → 回報結果
💡 小技巧
Agent 是「能做事」的 AI，Chatbot 是「能說話」的 AI。
練習題
📝 本節摘要
- Agent vs Chatbot：Agent 能自主執行任務，Chatbot 只能對話
- Agent 核心能力：規劃、行動、記憶、反思、協作
- Agent 適合複雜任務，Chatbot 適合簡單問答
21.2 Agent 核心架構
為什麼學_this？
了解 Agent 架構是設計和評估的基礎。
核心教學
Agent 的核心組件：
🔹 大語言模型（LLM）
- Agent 的「大腦」
- 負責理解、推理、決策
- 如 GPT-4、Claude、Gemini
🔹 工具（Tools）
- Agent 的「雙手」
- 調用外部功能
- 如搜索引擎、API、數據庫
🔹 記憶（Memory）
- Agent 的「記憶」
- 短期上下文
- 長期知識
🔹 規劃（Planning）
- Agent 的「策略」
- 拆解任務
- 制定步驟
🔹 執行循環（Agent Loop）
感知 → 思考 → 行動 → 觀察 → 再思考...
↑_______________________↓
直到任務完成
💼 商業範例
一家寵物用品公司的客服 Agent：
- LLM：GPT-4 理解客戶需求
- 工具：查詢訂單系統、物流 API
- 記憶：記住客戶對話歷史
- 規劃：自動判斷處理流程
- 執行：完成訂單查詢、物流追蹤
💡 小技巧
Agent 的品質取決於 LLM、工具、記憶、規劃的整體配合。
練習題
📝 本節摘要
- 核心組件：LLM、工具、記憶、規劃、執行循環
- Agent Loop：感知 → 思考 → 行動 → 觀察
- 品質取決於整體配合
21.3 Tool Calling（工具調用）
為什麼學_this？
Tool Calling 讓 Agent 真正「能做事」。
核心教學
什麼是 Tool Calling？
Tool Calling 是讓 LLM 調用外部工具的能力。Agent 可以：
- 查詢數據庫
- 調用 API
- 操作瀏覽器
- 發送郵件
- 執行程式碼
Tool Calling 的工作流程：
常見工具類型：
- 數據查詢：搜索、數據庫、API
- 文件處理：創建、編輯、分析
- 通信：發郵件、發訊息
- 自動化：操作軟體、執行命令
Tool Calling Prompt 範例：
你有一個「查詢訂單」工具，參數是訂單號。
用戶說：「我的訂單 #12345 到哪了？」
請調用查詢訂單工具，然後回報狀態。
💼 商業範例
一家寵物用品公司的 Agent 用 Tool Calling：
- 查詢訂單：自動查詢訂單系統
- 物流追蹤：自動對接物流 API
- 庫存查詢：自動查詢庫存信息
💡 小技巧
工具設計越清晰，Agent 越能正確使用。
練習題
📝 本節摘要
- Tool Calling 讓 Agent 調用外部工具
- 工作流程：LLM 決策 → 調用 → 返回 → 處理
- 工具設計清晰度影響 Agent 表現
21.4 Agent 記憶系統
為什麼學_this？
記憶系統讓 Agent 能記住上下文和過去的互動。
核心教學
記憶系統的三層：
🔹 短期記憶（上下文窗口）
- 當前對話的上下文
- 通常有限（LLM 的上下文窗口）
- 即時使用
🔹 工作記憶（Working Memory）
- 當前任務的關鍵資訊
- 任務進行中保留
- 任務結束後轉化
🔹 長期記憶（長期知識）
- 過去的互動和結論
- 用戶偏好
- 任務歷史
記憶系統的技術：
- 向量資料庫：存儲和檢索
- 知識圖譜：結構化知識
- 檔案存儲：結構化記錄
記憶最佳實踐：
💼 商業範例
一家寵物用品公司的客服 Agent：
- 記住客戶的寵物類型
- 記住過去的訂單歷史
- 記住客戶的偏好
- 下次對話更有針對性
💡 小技巧
記憶是 Agent 個性化和智能化的關鍵。
練習題
📝 本節摘要
- 記憶三層：短期、工作、長期
- 技術：向量資料庫、知識圖譜
- 記憶是個性化和智能化的關鍵
21.5 RAG 基礎
為什麼學_this？
RAG 讓 Agent 基於最新、準確的資訊回答。
核心教學
什麼是 RAG？
RAG（Retrieval-Augmented Generation）是檢索增強生成技術。Agent 先從知識庫檢索相關資訊，再基於這些資訊生成答案。
RAG 的工作流程：
RAG vs Fine-tuning：
| 維度 | RAG | Fine-tuning |
|------|-----|-------------|
| 更新速度 | 即時 | 需重新訓練 |
| 成本 | 低 | 高 |
| 準確性 | 基於具體文件 | 基於訓練數據 |
| 適用場景 | 知識更新頻繁 | 固定風格/行為 |
RAG 的優勢：
- 資訊即時更新
- 減少幻覺
- 可追溯來源
- 成本較低
💼 商業範例
一家寵物用品公司用 RAG：
- 產品知識庫：即時更新產品資訊
- 客服回答：基於產品知識庫
- 減少錯誤回答
- 客服準確率提升至 95%
💡 小技巧
RAG 是中小企業最實用的 AI 知識應用方式。
練習題
📝 本節摘要
- RAG 是檢索增強生成
- 流程：向量化 → 檢索 → 生成
- 比 Fine-tuning 更適合知識更新
21.6 向量資料庫
為什麼學_this？
向量資料庫是 RAG 和記憶系統的基礎。
核心教學
什麼是向量資料庫？
向量資料庫存儲數據的向量化表示，支持語義搜索。它可以找到「語義相似」的內容，而不只是關鍵字匹配。
向量資料庫的用途：
- RAG 知識檢索
- 記憶存儲和檢索
- 相似內容推薦
- 語義搜索
主流向量資料庫：
- Pinecone：雲端向量資料庫
- Weaviate：開源，功能豐富
- Milvus：開源，高性能
- Chroma：輕量級，適合初學者
- Qdrant：高性能，功能完善
向量資料庫 vs 傳統資料庫：
- 傳統：關鍵字匹配（「猫粮」）
- 向量：語義匹配（「貓咪食物」→ 也能找到「貓糧」）
💼 商業範例
一家寵物用品公司用向量資料庫：
- 客戶搜索「天然狗糧」→ 找到相關的天然狗糧產品
- 客服 Agent 檢索知識庫
- 產品推薦更精準
💡 小技巧
向量資料庫用於語義搜索，是 AI 應用的核心技術。
練習題
📝 本節摘要
- 向量資料庫存儲語義表示
- 支持語義搜索，不只關鍵字匹配
- 是 RAG 和記憶系統的基礎
21.7 多 Agent 系統
為什麼學_this？
多 Agent 系統能處理更複雜的任務。
核心教學
什麼是多 Agent 系統？
多個 AI Agent 協同工作，每個負責不同的部分，共同完成複雜任務。
多 Agent 的架構：
🔹 主管模式（Orchestrator）
- 一個主管 Agent 協調
- 分配任務給子 Agent
- 匯總結果
🔹 流水線模式（Pipeline）
- Agent 依序處理
- 每個 Agent 的輸出是下一個的輸入
- 適合多步驟任務
🔹 協作模式（Collaborative）
- Agent 平等協作
- 共同討論
- 相互評價
多 Agent 的應用場景：
💼 商業範例
一家寵物用品公司的多 Agent 客服系統：
- Agent 1：分流客戶問題
- Agent 2：處理訂單查詢
- Agent 3：處理售後問題
- 協調者：匯總和決策
💡 小技巧
多 Agent 適合複雜任務，但簡單任務用單 Agent 更高效。
練習題
📝 本節摘要
- 多 Agent 架構：主管、流水線、協作
- 適合複雜任務
- 簡單任務用單 Agent 更高效
21.8 Agent 框架介紹
為什麼學_this？
框架能加速 Agent 開發。
核心教學
主流 Agent 框架：
🔹 LangChain
- 最流行的 AI 框架
- 支持多種 LLM
- 豐富的工具集成
- 適合各種場景
🔹 LangGraph
- 基於 LangChain
- 複雜工作流
- 狀態管理
- 適用於多 Agent
🔹 CrewAI
- 多 Agent 協作
- 角色分配
- 任務分配
- 適合團隊協作
🔹 AutoGen（Microsoft）
- 多 Agent 對話
- 自動協調
- 程式碼執行
- 適合開發場景
🔹 OpenAI Agents SDK
- OpenAI 官方
- 簡單易用
- 現代化
💼 商業範例
一家寵物用品公司用 LangChain 開發客服 Agent：
- 快速開發
- 豐富工具
- 易於維護
💡 小技巧
初學者從 LangChain 開始，功能最全、資料最多。
練習題
📝 本節摘要
- 框架：LangChain、LangGraph、CrewAI、AutoGen
- 初學者從 LangChain 開始
- 根據場景選擇框架
21.9 MCP 協議
為什麼學_this？
MCP（Model Context Protocol）是工具互通的標準。
核心教學
什麼是 MCP？
MCP 是 Anthropic 提出的標準協議，讓不同的 AI 系統和工具能夠標準化地互通。它解決了 AI 工具碎片化的問題。
MCP 的作用：
- 標準化工具連接
- 減少重複開發
- 提升互通性
- 加速生態發展
MCP 的運作方式：
- Server：提供工具/資源的服務
- Client：使用工具的 AI 應用
- 連接：雙方通過 MCP 協議溝通
MCP 的優勢：
- 「一次開發，處處使用」
- 工具生態標準化
- 降低整合成本
💼 商業範例
一家寵物用品公司用 MCP：
- 客服 Agent 連接訂單系統
- 連接物流 API
- 連接 CRM 系統
- 標準化整合，節省開發時間
💡 小技巧
MCP 是 AI 工具整合的「USB 標準」，未來會有更多工具支持。
練習題
📝 本節摘要
- MCP 是工具互通的標準協議
- 解決 AI 工具碎片化問題
- 降低整合成本
21.10 Agent 安全與治理
為什麼學_this？
Agent 的安全至關重要，特別是企業應用。
核心教學
Agent 的安全風險：
🔹 提示注入（Prompt Injection）
- 惡意輸入污染 Agent 指令
- 需防範
🔹 越權行為
- Agent 執行不應執行的操作
- 需權限控制
🔹 數據洩露
- 敏感數據被洩露
- 需保護
🔹 不可控行為
- Agent 做出意外決定
- 需監督
安全最佳實踐：
💼 商業範例
一家寵物用品公司的 Agent 安全策略：
- 客服 Agent 只能查詢，不能修改
- 重要操作需人工確認
- 所有行為有日誌
- 定期審計
💡 小技巧
安全是 Agent 應用的前提。從最小權限和人工審批開始。
練習題
📝 本節摘要
- 風險：提示注入、越權、數據洩露
- 最佳實踐：最小權限、人工審批、日誌、審計
- 安全是應用的前提
21.11 Agent 部署與監控
為什麼學_this？
部署和監控確保 Agent 穩定運行。
核心教學
Agent 部署的考量：
🔹 資源需求
- LLM API 成本
- 運算資源
- 儲存資源
🔹 穩定性
- 錯誤處理
- 重試機制
- 備援方案
🔹 監控指標
- 成功率
- 回應時間
- 錯誤率
- 成本
🔹 版本管理
- 版本控制
- 灰度發布
- 回滾機制
監控工具：
- LangSmith：LangChain 監控
- Langfuse：開源監控
- Weights & Biases：實驗追蹤
- 自訂儀表板：專屬監控
💼 商業範例
一家寵物用品公司的 Agent 監控：
- 追踪成功率（95%）
- 監控成本（月 $200）
- 追踪回應時間（<3秒）
- 異常自動告警
💡 小技巧
監控 Agent 的行為和成本，確保穩定運行。
練習題
📝 本節摘要
- 部署考量：資源、穩定性、監控、版本
- 監控指標：成功率、時間、錯誤、成本
- 定期審核確保穩定
21.12 企業應用場景
為什麼學_this？
了解 Agent 的企業應用，找到適合您的場景。
核心教學
Agent 的企業應用：
🔹 智能客服
- 自動處理客戶查詢
- 使用工具查詢訂單
- 24/7 服務
🔹 數據分析
- 自動分析數據
- 生成報告
- 建議行動
🔹 自動化工作流
- 自動執行多步驟任務
- 跨系統整合
- 減少人工
🔹 知識管理
- 企業知識庫
- 智能搜索
- 員工助手
🔹 銷售赋能
- 自動線索處理
- 個人化銷售
- 預測
💼 商業範例
一家寵物用品公司的 Agent 應用：
- 客服中心：80% 自動處理
- 數據分析：月度報告自動生成
- 供應鏈：自動採購建議
💡 小技巧
從一個高價值的場景開始試點 Agent。
練習題
📝 本節摘要
- Agent 應用：客服、分析、自動化、知識、銷售
- 從高價值場景開始
- 逐步擴展
21.13 課程總結
📝 課程總結
🔗 下一步學習
- C-22 No-Code AI 自動化：不需要寫程式
- C-23 RPA 流程自動化：機器人流程
- C-14 AI 工作流程自動化：實際應用
© 2026 Buddylala.ai — Build Your AI Future, Together.