|
所在平台: Udemy |
课程主页: https://www.udemy.com/course/learning_transformer/
课程评论：没有评论
课程名称：《深入学习Transformer - 用PyTorch实现Attention和Transformer》 课程概述： 《深入学习Transformer》是一门专注于生成AI基础技术“Transformer”的在线课程。课程将深入探讨Transformer的工作原理，以及它如何支撑生成AI的迅猛发展。为了加深理解，学员将使用PyTorch框架进行Transformer的实现实践。基于Transformer的大规模语言模型（LLM）在各个领域展现出惊人的性能，尤其是如GPT-3.5和GPT-4等模型所驱动的ChatGPT，可以自然生成对话文本，因此备受关注。LLM具备多种任务处理能力，逐渐可以完成原本仅由人类执行的多项任务。 课程内容： - **第一部分：Transformer概述** - 学习Transformer的基本概念及开发环境。 - **第二部分：Attention机制** - 深入了解Transformer的核心组成部分——Attention机制及其实现。 - **第三部分：Transformer中的嵌入** - 学习如何将输入进行向量化处理。 - **第四部分：组装Transformer** - 在以上内容的基础上，利用PyTorch进行Transformer的组装实践。 请注意，虽然课程中对编程语言Python的讲解会较少，但将提前提供Python基础的笔记。此外，本课程将使用Google Colaboratory作为开发环境。 通过学习本课程，学员将深入理解Transformer，并获得对生成AI的深刻洞察。
「Transformerを詳しく学ぼう！」は、生成AIのベースとなる技術、「Transformer」について詳しく学ぶ講座です。Transformerがどのような仕組みで機能しており、生成AIの躍進を支えているのかを掘り下げていきます。理解を深めるために、本講座ではフレームワークPyTorchを使ってTransformerの実装にトライします。Transformerをベースにした大規模言語モデル（LLM）は現在様々な分野で驚異的な性能を発揮し、幅広く活用されています。特にGPT-3.5やGPT-4が使われているChatGPTは、自然言語を使った対話により自然な文章を生成可能なので、大きな注目を集めています。LLMは様々なタスクをこなせる汎用性を備えており、これまで人間しかできなかった様々なタスクを任せることが可能になってきています。本講座では、最初にTransformerの概要を学んだ上で、Attentionの仕組み、埋め込みなどについて順を追って学んでいきます。そして、最後にここまでの内容を踏まえてTransformerを組み立てます。Transformerを詳しく学び、生成AIに対する深い洞察力を身につけましょう。注: 本コースに先立ちYouTubeでのライブ講義【Live! 人工知能】がありました。本コースの動画はこのライブ講義をUdemy用に再構成したものになります。講座の内容は以下の通りです。Section1. Transformerの概要→ Transformerの概要や、開発環境について学びます。Section2. Attentionの仕組み→ TransformerのベースであるAttentionの仕組み、実装について学びます。Section3. Transformerにおける埋め込み→ Transformerにおける入力のベクトル化について学びます。Section4. Transformerを組み立てる→ ここまでの内容を踏まえて、PyTorchを使いTransformerを組み立てます。なお、今回の講座でプログラミング言語Pythonの解説は最小限となりますが、Pythonの基礎を解説するノートブックを予め配布します。Pythonの開発環境にはGoogle Colaboratoryを使用します。
