|
所在平台: Udemy |
课程主页: https://www.udemy.com/course/transformer-pytorch/
课程评论：没有评论
**课程名称:** Transformer原理与代码精讲（PyTorch） **课程概述:** 本课程深入剖析了Transformer模型的原理及其在PyTorch中的具体实现。Transformer作为一种深度学习的新范式，已从自然语言处理（NLP）领域成功扩展到计算机视觉（CV）等领域，展现出巨大的影响力和应用前景。 **课程内容要点:** * **原理部分:** * 详细讲解注意力机制和自注意力机制。 * 介绍Transformer的整体架构。 * 深入理解Encoder中的多头注意力（Multi-Head Attention）和位置编码（Positional Encoding）。 * 阐述残差链接、层规范化（Layer Normalization）和前馈神经网络（FFN）的作用。 * 探讨Transformer的训练过程和性能优化。 * 梳理Transformer在机器翻译中的工作流程。 * **代码实现部分:** * 通过Jupyter Notebook逐行解读Transformer的PyTorch代码。 * 涵盖PyTorch的安装与配置。 * 详细分析Transformer的Encoder和Decoder代码。 * 讲解Transformer相关超参数的设置。 * 提供Transformer模型在人工随机数据和德语-英语机器翻译任务上的训练示例代码。 **核心目标:** 帮助学员全面掌握Transformer的详细原理，并能够通过PyTorch实现和应用Transformer模型。
Transformer发轫于NLP（自然语言处理），并跨界应用到CV（计算机视觉）领域。目前已成为深度学习的新范式，影响力和应用前景巨大。本课程对Transformer的原理和PyTorch代码进行精讲，来帮助大家掌握其详细原理和具体实现。原理精讲部分包括：注意力机制和自注意力机制、Transformer的架构概述、Encoder的多头注意力（Multi-Head Attention）、Encoder的位置编码（Positional Encoding）、残差链接、层规范化（Layer Normalization）、FFN（Feed Forward Network）、Transformer的训练及性能、Transformer的机器翻译工作流程。代码精讲部分使用Jupyter Notebook对Transformer的PyTorch代码进行逐行解读，包括：安装PyTorch、Transformer的Encoder代码解读、Transformer的Decoder代码解读、Transformer的超参设置代码解读、Transformer的训练示例（人为随机数据）代码解读、Transformer的训练示例(德语-英语机器翻译)代码解读。
