描述
內容簡介
| 從會回答，到真正會做事
企業需要的，不是另一個能展示的 AI Demo，而是一套能接入資料、串聯流程、穩定執行，並持續演進的智慧系統。 本書從 RAG、AI 工作流程到 AI Agent，帶你走過大型模型應用，從概念驗證到企業級落地的完整路徑。透過 10 個真實業務案例，拆解資料處理、模型整合、流程編排、工具呼叫、效能最佳化與系統架構設計，讓 AI 不只提供答案，更能參與實際工作。 你將掌握 ◼建立可靠的企業知識問答系統 從文件解析、文字分塊、向量索引到檢索生成，打好 RAG 核心基礎。 ◼處理企業真正棘手的資料場景 整合 PDF、圖像、表格、資料庫與 API，解決多格式資料與複雜文件解析問題。 ◼把單點能力串成自動化工作流程 實作合約審查、合約生成、Text2SQL 與銀行交易明細解析，讓複雜任務穩定執行。 ◼建構能規劃、反思與呼叫工具的 Agent 打造預測性設備維運與智慧化信貸徵審助手，完成從問答到自主決策的進階應用。 ◼提煉可重複使用的工程架構 掌握「資料擷取與運算分離」、「先規劃後生成」、「先預覽後認知」等設計方法，降低試錯成本。
10 大企業級應用場景 企業規章問答｜智慧履歷篩選｜設備維修圖文問答 競賽等級 RAG 系統｜智慧合約審查與生成｜Text2SQL 多格式銀行交易明細解析｜設備預測性維護｜智慧化信貸徵審 |
作者簡介
| 韋東東
企業大模型應用落地的創業者，面向製造業、金融業等行業場景，為企業提供RAG、工作流與Agent一體化架構的大模型應用規劃、方案設計與落地實施服務。擁有8年金融科技與信貸風控產品實戰經驗，阿里雲大模型高級工程師ACP認證。 |
目錄
| 基礎篇 RAG、AI 工作流與AI Agent 核心概念
▍第1 章 理解 RAG：外部知識的檢索與融合 1.1 概念緣起與應用價值 1.1.1 RAG 的基本概念 1.1.2 大型語言模型的內在侷限 1.1.3 RAG 的核心應用價值 1.1.4 RAG 的主要應用場景 1.2 核心工作原理解析 1.2.1 文件解析與載入 1.2.2 文字分塊策略 1.2.3 向量化與索引建構 1.2.4 檢索器設計與最佳化 1.2.5 生成器設定與多輪對話增強 1.3 技術生態與實踐路徑 1.3.1 技術堆疊分層全景 1.3.2 框架與平台選型策略 1.3.3 RAG 應用模式演進 1.4 本章小結 ▍第2 章 建構 AI 工作流：複雜任務的編排與自動化 2.1 概念緣起與應用價值 2.1.1 AI 工作流的基本概念 2.1.2 單點 AI 應用的內在侷限 2.1.3 AI 工作流的核心應用價值 2.1.4 AI 工作流的主要應用場景 2.2 核心工作原理解析 2.2.1 節點類型與連接機制 2.2.2 條件分支與循環控制 2.2.3 狀態管理與資料傳遞機制 2.2.4 平行執行與同步機制 2.2.5 錯誤處理與容錯機制 2.3 技術生態與實踐路徑 2.3.1 AI 工作流技術堆疊分層全景 2.3.2 框架與平台選型策略 2.3.3 AI 工作流應用模式演進 2.4 本章小結 ▍第3 章 探索 AI Agent：自主決策能力的建構與應用 3.1 概念緣起與應用價值 3.1.1 AI Agent 的基本概念 3.1.2 AI 工作流的內在侷限 3.1.3 AI Agent 的核心應用價值 3.1.4 AI Agent 的主要應用場景 3.2 核心工作原理解析 3.2.1 推理引擎與策略制定 3.2.2 記憶系統與上下文管理 3.2.3 工具呼叫與管理 3.2.4 感知回饋與迭代 3.3 技術生態與實踐路徑 3.3.1 技術堆疊分層全景 3.3.2 框架與平台選型策略 3.3.3 AI Agent 應用模式演進 3.4 本章小結 RAG 篇 建構從基礎到進階的問答應用程式 ▍第4 章 開發企業規章制度原生 RAG 問答系統 4.1 業務挑戰 4.1.1 分散儲存的文件查找難題 4.1.2 關鍵詞檢索的語意鴻溝 4.1.3 碎片化資訊的整合困境 4.2 核心架構 4.2.1 建構統一文件解析流水線 4.2.2 建立向量化語意檢索引擎 4.2.3 設計檢索增強問答生成器 4.3 技術實現 4.3.1 分析全域設定與參數管理 4.3.2 實現文件解析與結構化分塊 4.3.3 建構向量化與索引儲存系統 4.3.4 開發檢索與生成核心引擎 4.3.5 部署互動介面與實戰驗證 4.4 工程經驗與架構演進 4.4.1 原生開發的工程經驗總結 4.4.2 系統效能瓶頸分析與最佳化方向 4.4.3 向框架化開發的演進路徑 4.5 本章小結 ▍第5 章 打造框架驅動的智慧履歷篩選系統 5.1 業務挑戰 5.1.1 異質檔案的統一接入難題 5.1.2 精準篩選與模糊檢索的平衡難題 5.1.3 從資訊檢索到決策輔助的鴻溝 5.2 核心架構 5.2.1 建構統一的資料處理流水線 5.2.2 設計雙層知識儲存引擎 5.2.3 編排對話式 RAG 應用鏈 5.3 技術實現 5.3.1 實現基於 LlamaIndex 的資料處理引擎 5.3.2 開發情境感知履歷節點解析器 5.3.3 建構並整合結構化資訊 5.3.4 開發基於 Pydantic 的結構化資訊提取鏈 5.3.5 具備記憶整合功能的對話式 RAG 鏈 5.3.6 部署基於 Streamlit 的互動式驗證應用程式 5.4 工程經驗與架構演進 5.4.1 框架開發的權衡與選型 5.4.2 「引擎—應用」分離的設計模式 5.4.3 架構演進：從問答到自主 Agent 5.5 本章小結 ▍第6 章 實現基於 RAGFlow 的設備維修圖文問答 6.1 業務挑戰 6.1.1 維修案例檢索效率問題 6.1.2 圖文資訊割裂展示難題 6.1.3 跨案例知識整合能力缺失 6.2 核心架構 6.2.1 解析 RAGFlow 的原生快照架構 6.2.2 設計基於預處理的富文字增強架構 6.2.3 兩種架構的技術選型與權衡 6.3 技術實現 6.3.1 設定解析器與分塊策略 6.3.2 設定檢索增強功能 6.3.3 設定結構化資訊提取 6.3.4 調整聊天助手核心策略設定 6.3.5 評測原生 PDF 的解析與檢索效果 6.3.6 開發 PDF 圖文提取與連結注入腳本 6.4 工程經驗與架構演進 6.4.1 提煉平台與預處理的協同模式 6.4.2 從資訊檢索到任務自動化的架構演進 6.4.3 展望 RAGFlow 的 Agent 與 MCP 應用潛力 6.5 本章小結 ▍第7 章 重現企業級 RAG 挑戰賽冠軍方案 7.1 業務挑戰 7.1.1 巨量異質的動態資料 7.1.2 嚴格的評分與獎懲機制 7.1.3 跨文件對比與深度推理要求 7.1.4 時間與成本的雙重擠壓 7.2 核心架構 7.2.1 資料預處理流水線 7.2.2 兩階段檢索策略 7.2.3 多路由生成框架 7.3 技術實現 7.3.1 Docling 二次開發與 GPU 設定 7.3.2 一文一庫建構、查詢路由與大型語言模型精排 7.3.3 多路由設計與自愈修正程式碼 7.3.4 結構化提示詞工程 7.3.5 復現實錄梳理 7.3.6 可視化互動介面 7.4 工程經驗與架構演進 7.4.1 建構可重現的實驗評估體系 7.4.2 從「銀彈」思維到全鏈路系統工程思想 7.4.3 邁向更智慧的動態與互動式系統 7.5 本章小結 AI 工作流篇 任務流程的編排與自動化 ▍第8 章 建構智慧合約審查工作流 8.1 業務挑戰 8.1.1 異質知識的融合困境 8.1.2 壞案例的沉澱難題 8.1.3 審查任務的拆解瓶頸 8.2 核心架構 8.2.1 建構雙源輸入架構 8.2.2 定義結構化案例知識庫 8.2.3 編排四階段工作流 8.3 技術實現 8.3.1 建置結構化案例知識庫 8.3.2 設定工作流輸入變數 8.3.3 實現動態案例檢索 8.3.4 自動化整合與報告生成 8.3.5 實戰演練與驗證 8.4 工程經驗與架構演進 8.4.1 核心工程原則 8.4.2 資料優先模型 8.4.3 架構演進方向 8.5 本章小結 ▍第9 章 建構智慧合約生成工作流 9.1 業務挑戰 9.1.1 靜態模板的剛性侷限 9.1.2 仿寫生成的串擾風險 9.1.3 全文處理的低效瓶頸 9.2 核心架構 9.2.1 建構條款級知識庫 9.2.2 設計平行生成流程 9.2.3 實現自動化交付 9.3 技術實現 9.3.1 實現資料離線預處理 9.3.2 建置平行工作流 9.3.3 設定 RAG 核心元件 9.3.4 實現自動化合併交付 9.3.5 實戰演練與效果驗證 9.4 工程經驗與架構演進 9.4.1 可重複使用的核心工程經驗 9.4.2 架構演進：動態循環架構 9.5 本章小結 ▍第10 章 建構 Text2SQL 智慧資料分析工作流 10.1 業務挑戰 10.1.1 從業務邏輯到 SQL 的轉換鴻溝 10.1.2 資料孤島的權限與效能瓶頸 10.1.3 手動編碼的成本與安全困境 10.2 核心架構 10.2.1 建構三大核心知識庫 10.2.2 分離資料取數與分析計算 10.2.3 建構自愈式安全驗證閉環 10.3 技術實現 10.3.1 準備案例資料來源 10.3.2 建立三大核心知識庫 10.3.3 建構 SQL 生成引擎 10.3.4 建置自愈式安全驗證閘道 10.3.5 實現完整的取數與分析 10.3.6 LLM 總結回答 10.3.7 效果測試與能力驗證 10.4 工程經驗與架構演進 10.4.1 常見工程挑戰與應對 10.4.2 架構演進的三個方向 10.5 本章小結 ▍第11 章 建構多格式銀行帳戶交易明細動態解析工作流 11.1 業務挑戰 11.1.1 定位流水表單的核心資料區域 11.1.2 統一異質流水的核心欄位 11.1.3 定性交易摘要的真實性質 11.2 核心架構 11.2.1 設計「先預覽後認知」的動態解析器 11.2.2 建構「先指令後執行」的標準化資料流 11.2.3 引入「知識增強」的智慧分析與報告生成 11.3 技術實現 11.3.1 設定動態解析與合併節點 11.3.2 建構「程式碼＋知識庫」的混合分析模式 11.3.3 設定填充報告範本 11.3.4 案例演示：生成一份完整的流水分析報告 11.4 工程經驗與架構演進 11.4.1 大型語言模型與程式碼節點協作模式 11.4.2 動態 RAG 的優勢 11.4.3 融合多模態處理與知識圖譜 11.4.4 建構自修正反饋與人機協同的閉環系統 11.5 本章小結 AI Agent 篇 建構企業級AI Agent 系統 ▍第12 章 建構預測性設備維運 Agent 12.1 業務挑戰 12.1.1 跨越多業務系統的資料壁壘 12.1.2 破解領域專家的「經驗困局」 12.1.3 突破「事後診斷」的決策模式瓶頸 12.2 核心架構 12.2.1 建構標準化的外部 API 工具集 12.2.2 建立理論 + 經驗的複合知識庫 12.2.3 設計融合知識與工具的動態決策 Agent 12.3 技術實現 12.3.1 建構並處理複合知識庫 12.3.2 封裝外部 API 為 Dify 工具 12.3.3 設定 Agent 核心指令 12.3.4 演示 Agent 真實場景對話行為 12.4 工程經驗與架構演進 12.4.1 辨析 Agent 與工作流的適用場景與邊界 12.4.2 實現從「被動應答」到「主動預警」的模式升級 12.4.3 驅動架構從「預警」向「自主行動與閉環」演進 12.5 本章小結 ▍第13 章 落地基於 JoyAgent 的智慧信貸徵審助手 13.1 業務挑戰 13.1.1 信貸徵審中多源資料整合的複雜性 13.1.2 過於依賴專業分析經驗與品質風險 13.1.3 智慧化轉型之技術路徑選擇困境 13.2 核心架構 13.2.1 解析 JoyAgent 四層技術架構 13.2.2 設計最小化侵入式的工具擴充機制 13.2.3 建構信貸專用工具與外部服務整合 13.3 技術實現 13.3.1 建置 JoyAgent 多服務開發環境 13.3.2 準備信貸徵審演示資料 13.3.3 開發 Python 資料服務腳本 13.3.4 實現 Java 工具類與 BaseTool 介面的整合 13.3.5 註冊整合工具與系統設定 13.3.6 端到端實戰驗證與效果展示 13.4 工程經驗與架構演進 13.4.1 提煉最小化侵入的方法論 13.4.2 解決多服務架構的維運複雜性 13.4.3 系統演進的最佳化方向 13.5 本章小結 後記 |
序
| 前言
自2022 年年底以來，大型語言模型（Large Language Model，簡稱大型模型）技術取得了重要進展。特別是進入2025 年，以DeepSeek-R1 為代表的先進模型開源，其推理能力，尤其是在顯式思維鏈（Chain-of-Thought）方面的表現，讓業界看到了大型語言模型在處理複雜任務上的潛力。經過蒸餾的小尺寸模型也讓企業能夠在成本可控的前提下實現本地化部署，為大型語言模型應用落地提供了新的技術選擇。 然而，在這股技術熱潮之下，許多企業在嘗試將大型語言模型應用於實際業務時，普遍遇到了一個「工程鴻溝」——從通用大型語言模型的基礎能力到能夠穩定創造業務價值的生產級應用，二者之間存在明顯差距。一方面，RAG（Retrieval-Augmented Generation，檢索增強生成）已成為企業解決大型語言模型知識時效性、事實幻覺等核心痛點的技術共識。與此同時，隨著業務複雜度的提升，基於任務導向的AI 工作流和具備自主決策能力的AI Agent 也日益成為企業關注的焦點。從知識問答到流程自動化，再到智慧決策，企業對大型語言模型應用的需求正在向更深層次演進，應用需求不斷增長。另一方面，市場上具有系統性、基於一線實戰經驗、案例驅動的落地指南卻相對缺乏，導致許多團隊仍處於摸索和試錯階段。 基於對這一「工程鴻溝」的長期觀察與第一線實踐，本書旨在將經過驗證的、碎片化的實踐經驗，提煉和固化為一套體系化的、可復現的落地指南。為此，本書針對在大型語言模型應用落地不同環節的核心角色，提供以下價值與實踐參考路徑。 1. AI 產品經理與專案經理 本書提供了10 個完整的企業級案例，每個案例都遵循「業務挑戰→核心架構→技術實現→工程經驗與架構演進」的統一結構。透過對這些案例的深入剖析，展示了大型語言模型應用從概念驗證到生產部署的完整路徑，可為AI 產品經理與專案經理進行產品可行性分析和專案管理決策提供實用參考。 2. 後端工程師（Java/Python/Go 語言等） 本書提供了從原生開發到框架整合、從開源平台到企業級系統的完整技術實現路徑。所有案例均包含可執行的完整程式碼，涵蓋資料處理、模型整合、API 設計、效能最佳化等工程細節，有助於後端工程師快速將大型語言模型能力整合到現有業務系統中。 3. 大專院校學生與研究人員 本書透過真實的企業級場景展示了如何將演算法原理轉化為可商用的產品，彌合了學術理論與工程實踐之間的鴻溝。每章的「工程經驗與架構演進」部分還提供了深度的技術思考和前沿探索方向，有助於大專院校學生與研究人員拓展研究視野。 |
