【深度学习】【NLP】NLP课件整理 第六章:Transformer架构,编码器,解码器,多头注意力机制,掩码张量,全部代码实现及分析
·
- Transformer的诞生
- Transformer的优势
- Transformer的市场
- 了解Transformer模型的作用.
- 了解Transformer总体架构图中各个组成部分的名称.
- 了解文本嵌入层和位置编码的作用.
- 掌握文本嵌入层和位置编码的实现过程.
- 了解编码器中各个组成部分的作用.
- 掌握编码器中各个组成部分的实现过程.
- 了解解码器中各个组成部分的作用.
- 掌握解码器中各个组成部分的实现过程.
- 了解线性层和softmax的作用.
- 掌握线性层和softmax的实现过程.
- 掌握编码器-解码器结构的实现过程.
- 掌握Transformer模型的构建过程.
- 了解Transformer模型基本测试的copy任务.
- 掌握实现copy任务的四步曲.
- 了解有关语言模型的知识.
- 掌握使用Transformer构建语言模型的实现过程.
更多推荐
所有评论(0)