工程筆記本 / NVIDIA 深度學習學院

NVIDIA 深度學習學院

NVIDIA DLI 講師實作坊 [運用 AI 大型語言模型打造 RAG 智能代理]

CAVEDU 阿吉 - 雜工📅 2025-09-08👁 73

課程介紹

檢索增強生成(Retrieval-Augmented Generation,RAG)是一種結合大型語言模型(LLM)與外部資料檢索的技術,目標是提升生成式AI模型的準確性和可靠性,同時降低幻覺發生的可能性。目前 RAG 技術已廣泛應用於以下領域:

  • 企業知識管理:RAG技術可用於建構企業內部的知識庫查詢系統,讓員工能夠透過自然語言提問,快速取得所需資訊已以提升工作效率。
  • 智能客服系統:透過RAG技術,企業可以建立智能客服機器人,24小時自動回應客戶詢問,提供精確、即時且與企業高度相關的資訊,提升客戶滿意度。
  • 個性化購物體驗:零售商利用RAG技術,從搜尋引擎、社交媒體等即時來源中蒐集客戶喜好和市場趨勢,為每位購物者提供個人化的產品建議,增加顧客滿意度並提高銷售轉化率。

本課程將深入探討模型編排技術、內部推理、對話管理與工具策略,帶領學員掌握 RAG 代理的核心開發技能。

認證資訊:完成本課程評量之後,即可取得 NVIDIA 原廠完課證明。

? 版本說明:本課程原文名稱為 [Building RAG Agents with LLMs],已有提供正體中文版本,相關資訊皆以原廠為準。
[caption id="attachment_61971" align="aligncenter" width="450"]運用 AI 大型語言模型打造 RAG 智能代理 - 完課證明樣張 完課證明樣張[/caption]

課程定位

  • ? 程度:技術 - 中級 (本課程屬於 NVIDIA DLI / LLM grouping Level 2)
  • ? 主題:深度學習 / 生成式 AI / 大語言模型
  • ? 完課證明:有
  • ? 考試方式:程式實作
  • ? 課程先修條件:熟悉 Python 語法,對於 LLM 關鍵技術有扎實理解
  • ? 所需軟體:Python, PyTorch, HuggingFace, Transformers, LangChain, LangGraph
  • ? 所需硬體:可連上網際網路的筆記型電腦,用於連入 DLI 雲端虛擬機執行課程,筆記型電腦無須另外安裝程式
  • ? 相關資訊:請參考 DLI Generative AI / LLM 學習路徑
  • ? 課程定位:本課程位於 DLI 學習路徑之 Generative AI / LLM分類,如下圖,也歡迎從中找到更多您喜歡的課程:
[caption id="attachment_61988" align="aligncenter" width="501"]RAG 智能代理課程定位 課程學習路徑定位[/caption]

學習目標

  • ? 設計一個能與使用者可預測互動的大型語言模型系統,並結合內部與外部的推理元件
  • ? 開發一套對話管理與文件推理系統,能維持狀態並將資訊強制轉換成結構化格式
  • ? 利用嵌入模型進行高效的相似度查詢,以支援內容檢索與對話防護
  • ? 實作、模組化並評估一個 RAG 代理,使其能不進行任何微調的情況下,針對資料集中研究論文的內容回答問題

課程特色

  • ? 聚焦 RAG 實戰應用:課程先行介紹大型語言模型的理論基礎,更強調 檢索增強生成 (RAG) 在研究論文與真實應用場景中的落地實作,讓學員學會如何建構能回答專業資料集問題的智慧代理。
  • ? 完整實作流程:從 LLM 推論介面、LangChain 管線設計、Gradio/LangServe 部署,到 向量資料庫 (Vector Store) 的檔案檢索,涵蓋開發、串接、部署的完整流程涵蓋 LangChain 設計、向量資料庫檢索至部署的流程。
  • ? 對話管理與狀態維護:透過設計對話管理機制與狀態維護,學員能掌握如何將對話轉換成結構化資訊,並有效支援多輪互動與知識推理。
  • ? 嵌入模型與防護:深入介紹嵌入模型在語意相似度、檢索效率與對話安全防護 (Guardrailing) 上的應用,確保系統能精準且安全地處理使用者需。
  • ? 原廠認證評量:透過最終評量,學員需整合文字生成、多模態學習與智能代理技術來開發一個 LLM 應用。成功完成課程評量將獲得完課證明,驗證所學技能。

第一天課程表:RAG 基礎與模型編排

時間 內容摘要
10:00 – 10:30 簡介 NVIDIA DLI 深度學習學院與主流 AI 工具 註冊 NVIDIA 開發者帳號
10:30 – 12:00 NIM 平台與 LLM 探索 認識 NVIDIA NIM 平台、自迴歸模型與大語言模型、向量資料庫部署策略
12:00 – 13:00 午餐時間
13:00 – 14:40 API 串接與 LangChain 不同模型 API 串接實作、LangChain 概念與範例應用
15:00 – 16:30 運行狀態與內部推理 實作推理功能、設計多輪對話推理代理 (Reasoning Agent)
16:40 – 17:00 Q&A 與複習

第二天課程表:RAG Agent 實作與評量

時間 內容摘要
10:00 – 12:00 文件載入與向量化 載入不同格式文件、嵌入模型應用與建立向量儲存庫
12:00 – 13:00 午餐時間
13:00 – 15:20 RAG Agent 完整實作 向量儲存整合RAG 管線、RAG 效能評估、實作 LLM as a Judge
15:30 – 16:30 課程評量:完成評量並獲得 NVIDIA 原廠完課證明
16:30 – 17:00 結尾與後續資源

立即洽詢與報名

CAVEDU(翰尼斯企業)是國內執行課程經驗最豐富的 NVIDIA 教育合作夥伴。 歡迎洽詢企業包班、技術顧問與客製化課程:

我們的專業團隊(2025 全球第一白金級大使領軍)將為您提供專屬的 NVIDIA DLI 原廠認證課程 規劃。

相關文章 📎

留言 💬 (0)

還沒有留言,來當第一個。