NVIDIA DGX Spark 與 Jetson Thor 買了，然後呢？課程規劃看這邊
NVIDIA DGX Spark / Jetson Thor 高效能 AI 企業培訓課程規劃
馬斯克、Yann LeCun 等 AI 大老們都已拿到 NVIDIA DGX Spark 了，您的企業也快拿到了吧？如果還沒，歡迎到機器人王國商城購買 ASUS Ascent GX10 與 Jetson Thor，兩者皆具備 128GB 高效運算力，分別鎖定個人工作站與機器人邊緣運算。
企業技術團隊若要在 AI 領域保持領先，必須掌握最新的開發技能。CAVEDU 結合 DGX Spark 與 Jetson Thor 規劃了以下三套核心課程。歡迎來信 service@cavedu.com 詢問與邀約！
課程主題一：生成式 AI 與企業私有應用
課程目標：培訓學員掌握 LLM 原理、提示工程與 RAG 實作。學員將學會結合企業知識庫，建立私有的生成式 AI 助理。 學習成效：完成課程後，學員能設計提示詞並建立 LLM 原型，熟悉在本地環境運行如 Llama 3.1 規模之模型。
DGX Spark 應用價值：
憑藉 Grace CPU 與 Blackwell GPU 高效組合及 128GB 統一記憶體，可直接在本地運行 Llama 3.1 70B 與 gpt-oss 120B 規格之LLM，無需仰賴雲端，確保企業資料安全性！
NVIDIA AI 實作坊：生成式 AI 基礎與私有化 LLM 應用 (2-Day)
結合 DGX Spark 高效能運算，協助企業快速從基礎架構銜接至私有化 AI 部署實務。
DAY 1：生成式 AI 基礎與環境部署 (6小時)
| 時間 | 單元主題 | 課程內容與技術亮點 |
|---|---|---|
| 10:00 - 11:00 | Transformer 架構概論 | • 深入理解 Attention Mechanism (注意力機制) • Encoder-only vs. Decoder-only 模型差異 • 現代 LLM 的核心演進歷程 |
| 11:00 - 12:00 | DGX Spark 環境設定 * | • NVIDIDGX Dashboard 安裝與操作 • 容器化工具在 AI 研發中的應用 |
| ☕ 12:00 - 13:00 午餐休息 | ||
| 13:00 - 14:00 | NVIDIA NIM 部署方式 | • NVIDIA Inference Microservices (NIM) 架構解析 • 實作：將模型封裝為標準 API 服務 • 多模態模型與高效推理管線建構 |
| 14:00 - 15:30 | 提示工程 | • 迭代式提示開發最佳實踐 • 少樣本提示技術、思維鏈與結構化輸出控制 • 實作：利用提示詞提升模型推理準確度 |
| 16:30 - 17:00 | 推論效能 * | • 實作「推測解碼」：在 DGX Spark 上同時運行一個大模型（Llama 3.1 70B）與一個小模型（Nemotron-3-Nano）讓小模型先猜測輸出，再由大模型驗證，藉此進一步提升生成速度。 |
| 16:30 - 17:00 | 總結與學習資源 | • 本日總結 • 更多學習資源 |
DAY 2：私有化 LLM 與 RAG 實戰優化 (6小時)
| 時間 | 單元主題 | 課程內容與技術亮點 |
|---|---|---|
| 10:00 - 11:00 | RAG 原理與向量資料庫 | • Embedding 語義表示與維度解析 • 向量資料庫選型與索引策略 • 多格式與非結構化資料之處理流程 |
| 11:00 - 12:00 | 模型微調技術 | • 使用 LLaMa Factory 進行高效率模型微調 • 特定領域專有名詞與風格化訓練實作 • 模型量化與推理加速技術 |
| ☕ 12:00 - 13:00 午餐休息 | ||
| 13:00 - 15:30 | [實作] 企業知識問答系統 | • 使用 LangChain 架構實作 LLM 管線 • 實作：匯入公司內部 PDF 規章，打造問答代理 • 檢索評估與準確性測試 |
| 15:30 - 16:30 | 專案展示 | • 學員分組成果展示與技術交流 |
| 16:30 - 17:00 | 總結與學習資源 | • NVIDIA DLI 學習路徑說明 • CAVEDU 教育團隊後續諮詢資源 |
課程主題二：數位孿生與 Omniverse 元宇宙
課程目標：運用 Omniverse 進行數位孿生應用，學習 OpenUSD 框架並在擬真 3D 環境中進行物理模擬與合成資料生成。 學習成效：學員將具備建立數位孿生場景的能力，透過虛擬環境加速研發迭代，降低在真實場景測試的成本。 [embedyt] https://www.youtube.com/watch?v=5rB5YpSk0G8[/embedyt]DGX Spark 應用價值：
提供強大 GPU 算力與 RTX 即時渲染能力，確保高仿真物理模擬順暢執行。一台 DGX Spark 即可生成大量合成影像資料並訓練電腦視覺模型。
NVIDIA Isaac Sim 機器人虛擬實踐：從 OpenUSD 場景到 LeIsaac 機器手臂智能控制
課程簡介： 本課程專為使用 NVIDIA DGX Spark (ASUS GX10) 的開發者設計，結合 128GB 統一記憶體優勢，深入探討 Isaac Sim 5.1.0 虛擬模擬技術。學員將學習如何從零建構數位孿生場景，並透過 LeIsaac 框架實作虛擬手臂控制，掌握從模擬到實體開發的關鍵技術點。註：本課程無需使用實體機器手臂，如 貴單位需要實體機器手臂 (例如 SO-ARM101)，請與我們聯絡。
Day 1：數位分身基礎與 Isaac Sim 核心操作 (6 小時)
| 時間 | 單元主題 | 課程內容重點 (純虛擬導向) |
|---|---|---|
| 10:00 - 11:00 | 數位分身理論與 OpenUSD | • 虛擬模擬價值：減少硬體損耗與加速訓練週期。 • OpenUSD 核心解析：學習 Layers 與 References 疊加等操作方式。 • 實機展示：DGX Spark 128GB 記憶體加載大型工業場景。 |
| 11:00 - 12:00 | Isaac Sim 5.1.0 快速啟動 | • Isaac Sim 軟體介面介紹。 • 介面導覽：Stage 階層管理與內容瀏覽器。 • 物理屬性設定：虛擬地板、重力場與碰撞邊界配置。 |
| ☕ 12:00 - 13:00 午餐休息時間 | ||
| 13:00 - 14:30 | 虛擬場景建置實務 | • 實作：利用內建資產庫（Machinery / Warehouse）拼貼智慧倉庫。 • 光學環境設定：HDR 貼圖 與動態光源配置。 |
| 14:30 - 16:30 | 虛擬手臂匯入與轉換 | • 實作：將 SO101 手臂 URDF 轉換為 Isaac 專用 USD 格式。 • 手臂關節驅動器 (Joint Drive) 與剛體權重調整。 |
| 16:30 - 17:00 | 本日總結 | • 更多學習資源 |
Day 2：LeIsaac 虛擬控制與 AI 模型整合 (6 小時)
| 時間 | 單元主題 | 課程內容重點 (純虛擬導向) |
|---|---|---|
| 10:00 - 11:00 | 感測器配置與 SDG 資料生成 | 1. 實作：在虛擬手臂掛載攝影機與深度感測器。 2. 使用 Replicator SDK 自動生成 500 張標註影像資料。 |
| 11:00 - 12:00 | LeIsaac 環境架設與修復 | 1. 實作：修改 LeIsaac 平行處理設定。 2. 解決 Numpy 2.0 版本衝突與虛擬環境隔離。 |
| ☕ 12:00 - 13:00 午餐休息時間 | ||
| 13:00 - 14:30 | 虛擬遙操作與動作錄製 | 1. 實作：使用鍵盤指令操控虛擬 SO101 手臂。
2. 控制指令教學：b 開始遙控、r 重設環境。 |
| 14:30 - 16:30 | AI 模型訓練展望 (Sim-to-Real) | 1. 講解虛擬環境自動重置與 24/7 訓練流程。 2. 探討如何將虛擬控制 Code 無縫移轉 至實體硬體。 3. 講師展示實體機器手臂與虛擬環境連動。 |
| 16:30 - 17:00 | 總結與學習資源 | • NVIDIA DLI 學習路徑說明 • CAVEDU 教育團隊後續諮詢資源 |
課程主題三：邊緣 AI 與即時推理應用 (Jetson Thor)
課程目標：針對物聯網感測與即時視覺分析，探討在硬體資源受限下的 AI 推論加速。學員將學習使用 TensorRT 與 DeepStream SDK。 學習成效：具備在邊緣場景部署 AI 的實戰能力，包含模型壓縮、移植至 Jetson 裝置運行及確保低延遲之推論效能。
Jetson Thor 應用價值：
作為最新世代的機器人核心，Thor 提供強大算力進行即時資料處理與超低延遲推論。支援完整的 NVIDIA 軟體堆疊，協助學員快速開發各類原型。
NVIDIA Jetson Thor 邊緣 AI 開發與 DeepStream 影像辨識實戰
課程簡介： 針對次世代機器人主機 Jetson Thor 設計，本課程帶領學員跨越邊緣 AI 開發的技術門檻。從 Thor 的系統優化操作，到 TensorRT 模型量化壓縮，最後實作 DeepStream 多路影像管線，完成端到端的 AI 部署流程。
Day 1：邊緣 AI 挑戰與 Jetson Thor 系統操作 (6 小時)
| 時間 | 單元主題 | 課程內容重點 |
|---|---|---|
| 10:00 - 11:00 | Edge AI 應用挑戰與生態系 | • 邊緣運算挑戰：延遲、功耗與散熱管理。 • NVIDIA Jetson 系列產品簡介。 • 智慧城市與 AGV 機器人 案例分享。 |
| 11:00 - 12:00 | Jetson Thor 系統架構與操作 | • Jetson Thor 硬體解析：搭載高效 128GB 統一記憶體。 • 實作：系統連接、SSH 設定與 jtop 效能監控。 • 了解 Aarch64 系統特性與基本維護。 |
| ☕ 12:00 - 13:00 午餐休息時間 | ||
| 13:00 - 14:30 | 邊緣端開發環境搭建 | • Docker 容器環境配置與版本管理。 • 實作：在 Thor 上運行 NIM 容器。 • 開發環境 Debug 與驅動版本檢查。 |
| 14:30 - 1630 | 常見的機器視覺應用 | • nvpmodel 模式切換：性能最大化策略。 • 實測：Jetson Inference 各類機器視覺模型。 • 散熱控制與系統穩定度測試。 |
| 16:30 - 17:00 | 本日總結 | • 更多學習資源 |
Day 2：模型部署優化與 DeepStream 管線實務 (6 小時)
| 時間 | 單元主題 | 課程內容重點 |
|---|---|---|
| 10:00 - 11:30 | 模型轉換與 TensorRT 量化 | • 實作：ONNX 模型轉換為 TensorRT Engine。 • FP16 與 INT8 量化 精度權衡。 • 使用 trtexec 工具進行硬體推論速度基準測試。 |
| 11:00 - 12:00 | Thor 部署實務與優化 | • 實作：加載 Engine 進行真實場景推論。 • 解決邊緣端記憶體配置與資源爭搶問題。 |
| ☕ 12:00 - 13:00 午餐休息時間 | ||
| 13:00 - 14:30 | DeepStream 視訊資料管線 | • GStreamer 與 Nvinfer 插件。 • 實作：建立端到端 AI 影像管線 (RTSP -> AI -> 顯示)。 • DeepStream 配置檔案調校與參數最佳化。 |
| 14:30 - 16:30 | 多路影像辨識與視覺化 | • 實作：4 路視訊串流同時偵測與物件追蹤。 • OSD 圖層繪製與辨識結果數據回傳。 • 系統效能分析與瓶頸診斷。 • 學員 AI 影像監控系統作品展示。 • 從 Orin 升級 Jetson Thor 的開發優勢。 |
| 16:30 - 17:00 | 總結與學習資源 | • NVIDIA DLI 學習路徑說明 • CAVEDU 教育團隊後續諮詢資源 |
參考資料
- NVIDIA DGX Spark 產品頁面
- NVIDIA 深度學習學院 - 數位孿生學習路徑
- NVIDIA 深度學習學院 - 機器人學習路徑
- NVIDIA Build: Enterprise RAG Pipeline
* 翰尼斯企業有限公司（29070497）為正式註冊之法人，CAVEDU 為其教育部門。 ** 須完成該課程所指定之課程評量，難度根據各課程而有不同。
立即洽詢與報名
CAVEDU 教育團隊 (翰尼斯企業) 是國內執行課程經驗最豐富的 NVIDIA 教育合作夥伴。 歡迎洽詢企業包班、技術顧問與客製化課程：
我們的專業團隊（2025 全球第一白金級大使領軍）將為您提供專屬的 NVIDIA DLI 原廠認證課程 規劃。
留言 💬 (0)
還沒有留言,來當第一個。