|
所在平台: Udemy |
课程主页: https://www.udemy.com/course/vit-transformer/
课程评论：没有评论
课程名称：ViT（Vision Transformer）原理与代码精讲 课程概述：本课程围绕Transformer在自然语言处理（NLP）领域的广泛应用展开，特别关注其在计算机视觉（CV）中的重要进展——ViT（Vision Transformer）。作为Transformer在CV应用中的里程碑，ViT模型首度展示了纯Transformer在图像分类上的潜力，发表于论文《An Image is Worth 16X16 Words: Transformer For Image Recognition At Scale》。经过在JFT-300M数据集上的预训练，ViT在性能上超越了传统的卷积神经网络ResNet，同时所需的训练计算资源更少。 课程内容包括： 1. ViT的核心原理与PyTorch实现代码的深入讲解，帮助学员全面理解ViT的工作机制与实现细节。 2. 理论部分涵盖Transformer的架构概述、Encoder与Decoder的工作原理、ViT的整体架构及其模型的详细分析以及性能评估。 3. 代码实现部分采用Jupyter Notebook详细解读ViT的PyTorch实现，包含两种实现方式：利用timm库及使用einops/einsum。 4. 通过逐行分析代码，课程将讲解如何安装PyTorch、解读ViT的timm库代码以及einops/einsum的具体用法。 本课程旨在帮助学员深入掌握ViT的原理及其实际应用，适合对计算机视觉与深度学习感兴趣的学习者。
Transformer在许多NLP(自然语言处理)任务中取得了最先进的成果。 ViT (Vision Transformer)是Transformer应用于CV（计算机视觉）领域里程碑式的工作，后面发展出更多的变体，如Swin Transformer。ViT (Vision Transformer)模型发表于论文An Image is Worth 16X16 Words: Transformer For Image Recognition At Scale，使用纯Transformer进行图像分类。ViT在JFT-300M数据集上预训练后，可超过卷积神经网络ResNet的性能，并且所用的训练计算资源可更少。本课程对ViT的原理与PyTorch实现代码进行精讲，来帮助大家掌握其详细原理和具体实现。其中代码实现包含两种代码实现方式，一种是采用timm库，另一种是采用einops/einsum。原理精讲部分包括：Transformer的架构概述、Transformer的Encoder 、Transformer的Decoder、ViT架构概述、ViT模型详解、ViT性能及分析。代码精讲部分使用Jupyter Notebook对ViT的PyTorch代码进行逐行解读，包括：安装PyTorch、ViT的timm库实现代码解读、 einops/einsum 、ViT的einops/einsum实现代码解读。
