|
所在平台: Coursera |
课程主页: https://www.coursera.org/learn/attention-models-in-nlp
课程评论：没有评论
课程名称：自然语言处理与注意力模型 课程概述： 在自然语言处理系列课程的第四门课程中，您将学习以下内容： a) 使用编码器-解码器注意力模型将完整的英语句子翻译成德语， b) 构建一个变换器模型以总结文本， c) 使用 T5 和 BERT 模型进行问答， d) 使用 Reformer 模型构建一个聊天机器人。 完成本系列课程后，您将能够设计能够进行问答和情感分析的自然语言处理应用，创建语言翻译和文本摘要工具，甚至构建一个聊天机器人！ 学习者应具备机器学习的工作知识、中级 Python 编程能力（包括使用深度学习框架，如 TensorFlow 或 Keras 的经验），以及微积分、线性代数和统计学的熟练程度。在开始本课程之前，请确保您已完成第三门课程 - 使用序列模型的自然语言处理。 本系列课程由两位自然语言处理、机器学习和深度学习领域的专家设计和授课。Younes Bensouda Mourri 是斯坦福大学的人工智能讲师，也参与了深度学习系列课程的构建；Łukasz Kaiser 是 Google Brain 的研究科学家，TensorFlow、Tensor2Tensor 和 Trax 库的共同作者，以及 Transformer 论文的合作者。 课程大纲：
第一部分
标题：神经机器翻译
描述：了解传统 seq2seq 模型的一些缺陷以及如何通过添加注意力机制来解决这些问题，然后构建一个使用注意力的神经机器翻译模型，将英语句子翻译成德语。
第二部分
标题：文本摘要
描述：比较 RNN 和其他序列模型与更现代的变换器架构，然后创建一个生成文本摘要的工具。
第三部分
标题：问答
描述：探索使用 T5 和 BERT 等最新模型的迁移学习，然后构建一个能够回答问题的模型。
第四部分
标题：聊天机器人
描述：研究变换器模型面临的一些独特挑战及其解决方案，然后使用 Reformer 模型构建一个聊天机器人。
Part: 1
Title:Neural Machine Translation
Description:Discover some of the shortcomings of a traditional seq2seq model and how to solve for them by adding an attention mechanism, then build a Neural Machine Translation model with Attention that translates English sentences into German.
Part: 2
Title:Text Summarization
Description:Compare RNNs and other sequential models to the more modern Transformer architecture, then create a tool that generates text summaries.
Part: 3
Title:Question Answering
Description:Explore transfer learning with state-of-the-art models like T5 and BERT, then build a model that can answer questions.
Part: 4
Title:Chatbot
Description:Examine some unique challenges Transformer models face and their solutions, then build a chatbot using a Reformer model.
In Course 4 of the Natural Language Processing Specialization, you will: a) Translate complete English sentences into German using an encoder-decoder attention model, b) Build a Transformer model to summarize text, c) Use T5 and BERT models to perform question-answering, and d) Build a chatbot using a Reformer model. By the end of this Specialization, you will have designed NLP applications that perform question-answering and sentiment analysis, created tools to translate languages and summarize text, and even built a chatbot! Learners should have a working knowledge of machine learning, intermediate Python including experience with a deep learning framework (e.g., TensorFlow, Keras), as well as proficiency in calculus, linear algebra, and statistics. Please make sure that you’ve completed course 3 - Natural Language Processing with Sequence Models - before starting this course. This Specialization is designed and taught by two experts in NLP, machine learning, and deep learning. Younes Bensouda Mourri is an Instructor of AI at Stanford University who also helped build the Deep Learning Specialization. Łukasz Kaiser is a Staff Research Scientist at Google Brain and the co-author of Tensorflow, the Tensor2Tensor and Trax libraries, and the Transformer paper.
