|
所在平台: Udemy |
课程主页: https://www.udemy.com/course/generative_ai_19/
课程评论：没有评论
這門由Ken Cen出品的Coursera課程《Generative AI第19部 DeepSeek如何 Fine-tune (微調)大語言模型》旨在帶領學員從零開始，全面掌握DeepSeek大語言模型的微調技術。課程內容涵蓋DeepSeek的發展與技術亮點，並深入講解如何運用Hugging Hub和Tokenizer進行數據預處理。 課程重點包括： * **數據預處理**：利用Tokenizer進行文本分詞、數據清洗、標準化和文本編碼，包括設定序列長度、padding和truncation。 * **超參數設定與模型評估**：探討學習率、批次大小、梯度累積等超參數的調整，指導如何配置labels與dtype，以及使用標準指標評估模型性能。 * **微調(Fine-tune)實踐**：詳細解析模型微調流程、數據加載、預處理，並分享混合精度訓練等訓練技巧。 * **量化(Quantization)**：介紹8-bit和4-bit量化技術及其原理，並指導實作輕量級部署。 * **Low-Rank Adaptation (LoRA)**：解析LoRA原理，並通過實戰案例演示其在DeepSeek微調中的應用。 * **監督式微調(Supervised Fine-Tuning)**：講解如何使用標註數據提升模型準確性與一致性，並介紹模型評估流程。 * **Chain of Thought (CoT)**：講解CoT概念及其重要性，並展示如何構建CoT格式輸入以引導模型生成具備推理流程的答案。 * **Dataset推理邏輯語句轉換**：深入解析如何轉換數據集格式，使模型能理解並生成邏輯推理，並提供模板設計範例。 * **GRPO框架應用**：介紹GRPO（Gradient Reward Policy Optimization）在模型微調中的應用，並詳細講解其參數配置、獎勵函數設計與訓練流程。 本課程內容全面且實戰性強，適合AI技術的入門者及進階工程師，旨在幫助學員掌握DeepSeek微調的無限可能，在Generative AI領域取得突破。
DeepSeek如何Fine-tune大語言模型在這個數位轉型的時代，大語言模型正以前所未有的速度重塑各行各業，而DeepSeek作為新一代大語言模型的代表，憑藉其獨特技術特點和靈活的微調方案，為業界提供了極具前瞻性的解決方案。今天，我們誠摯推薦由Ken Cen出品的新課程-"Generative AI第19部 DeepSeek如何 Fine-tune (微調)大語言模型"，帶您從零開始，全面掌握DeepSeek的微調技術。1. DeepSeek的發展與技術特點發展歷程：從最早期的語言生成模型到如今的DeepSeek，技術日益成熟，實現了更高效、更準確的語言生成。技術亮點：具備高效的運算性能、靈活的調參機制和出色的量化能力，適合各類應用場景。2. 如何使用Hugging Hub & TokenizerHugging Hub：利用Hugging Face Hub快速下載並部署最新預訓練模型，與DeepSeek無縫銜接。Tokenizer應用：掌握如何使用Tokenizer進行文本分詞，將自然語言轉換成模型可處理的數字化序列，為後續微調奠定基礎。3. 使用Tokenizer分詞器預處理數據數據清洗與標準化：學習如何利用Tokenizer進行數據預處理，確保數據輸入的一致性和高效性。文本編碼：實際演示如何將文本轉化為token id，設定最大序列長度，並利用padding和truncation處理超長文本。4. 超參數、labels與dtype設定及Fine-tune&評估超參數調整：探討學習率、批次大小、梯度累積步數等超參數的設置，如何平衡精度和計算資源。標籤與數據類型：詳細介紹如何配置labels與dtype，確保模型在微調過程中能夠正確反向傳播和穩定收斂。評估指標：講解如何使用標準指標評估模型性能，確保微調效果達到預期目標。5. 如何微調Fine-tune模型微調策略：深入解析模型微調流程，從數據加載、預處理到模型訓練，每一步都精心設計，實戰演練細節豐富。訓練技巧：分享多種微調技巧，包括混合精度訓練等，助您實現高效穩定的模型微調。6. 實現量化Quantization模型量化技術原理：介紹8-bit、4-bit量化技術，如何在降低內存占用的同時保持模型性能。實作步驟：逐步講解如何利用現有工具對DeepSeek進行量化處理，實現高性能輕量級部署。7. 實現Low-Rank Adaptation (LoRA)LoRA原理：解析低秩分解如何在保持原模型表現的前提下，降低微調參數量，提高計算效率。應用實例：通過實戰案例演示LoRA在DeepSeek微調中的應用，並比較不同配置參數對模型效果的影響。8. 實現Supervised Fine-Tuning監督式微調：探討如何使用標註數據進行監督式微調，進一步提升模型回答的準確性與一致性。模型評估：介紹如何構建評估流程，檢測模型在各類測試場景下的表現。9. 實現Chain of Thought (CoT)連鎖思維推理CoT概念：講解連鎖思維推理的重要性，如何引導模型生成具備清晰推理流程的答案。實戰應用：展示如何構建CoT格式的輸入，並引導模型在回答時同時展現推理過程與最終結論。10. 轉換Dataset推理邏輯語句數據集格式轉換：深入解析如何從原始數據集中提取並轉換出推理邏輯語句，使模型能夠理解並生成合理的邏輯推理。模板設計：提供模板設計範例，確保轉換後的數據符合模型訓練要求。11. 實現GRPOGRPO框架：介紹GRPO（Gradient Reward Policy Optimization）在強化學習中的應用，如何用於模型微調過程中的策略優化。實施步驟：詳細講解GRPO的參數配置、獎勵函數設計與訓練流程，幫助您實現更加精細化的模型優化。這門課程由業界專家Ken Cen精心打造，從DeepSeek大語言模型的技術特點到全流程的微調、量化、LoRA、監督微調、連鎖思維推理及GRPO應用，內容全面、實戰性強。無論您是AI技術的入門者還是進階工程師，都能在這裡學到最前沿、最實用的技術知識，助力您在Generative AI領域取得突破性進展。立即報名，與我們一起迎接AI技術的新時代，掌握DeepSeek微調的無限可能！
