|
所在平台: Udemy |
课程主页: https://www.udemy.com/course/generative_ai_29/
课程评论：没有评论
《生成式AI第29部：神經網絡2.0 - KAN vs 傳統MLP》課程旨在深入解析神經網絡的發展，從基礎的多層感知器（MLP）概念講起，闡述其在PyTorch中的實現、實際數據訓練及測試評估方法。課程核心是介紹革命性的KAN（Kernel-based Activation Networks）架構。 KAN的優勢在於，它摒棄了MLP中固定的激活函數，轉而採用數學曲線，如貝茲曲線（Bézier curves）和B-Spline，配合基底函數（basis functions）來構建神經元。這種「局部控制」（local control）的設計，使得神經元能更精細地響應特定輸入範圍，尤其有利於處理高維或稀疏數據。此外，課程還會探討網格擴展（mesh extension）的概念，以增強模型的「解析能力」和「數值穩定性」。總之，該課程將引導學員理解從傳統MLP到新型KAN架構的演進，掌握其背後的數學原理與實作技巧。
課程將帶領學員從傳統神經網絡（MLP）的基礎出發，逐步深入理解 KAN（Kolmogorov-Arnold Network） 的結構、數學原理與實作方法。課程內容：什麼是 MLP 多層感知器 & 如何在 PyTorch 中實現 MLP？MLP 是所有深度學習模型的基礎建築單元，你學會它，就能理解大多數 AI 模型的骨架如何用 MLP 實現真實數據訓練和測試評估這是實際部署 AI 模型的必備能力什麼是 KAN 架構 & 貝茲曲線 & B-Spline & 基底函數 & 局部控制 & 網格擴展KAN（Kernel-based Activation Networks）是對傳統 MLP 結構的一種突破，它用數學曲線（如 B-spline）來取代固定的 activation function基底函數（basis function） ⇒ 這是類似於 Radial Basis Function (RBF)、Fourier series 等模型的核心思想Bézier 曲線、B-Spline ⇒ 你可以使用數學工具更細膩地控制神經元行為局部控制 / 局部學習 ⇒ 對應於神經元只對一小區域輸入敏感，這種性質非常適合高維/稀疏資料網格擴展 ⇒ 可以學習如何讓模型具備更強的「解析能力」與「數值穩定性」
