Skip to main content
Zhang Lab Forum

Main navigation

  • Home
  • Resources
  • General discussion
  • Collaborate
  • Researchs
User account menu
  • Log in
By chuand, 14 September, 2023
Forums
General discussion

第0部分 神经网络基础

  • 机器学习基本概述

    机器学习的基本概念简介

    t-SNE数据降维

    卷积神经网络CNN

    K最邻近算法(KNN)

  •  

     

第一部分 预训练语言模型

  • Linux的一些命令
  • 预训练
  • 统计语言模型
  • 神经网络语言模型和词向量
  • Word2Vec模型 
  • 模型的下游任务
  • ELMO模型
  • 注意力机制
  • 自注意力机制
  • 注意力机制和自注意力机制的区别
  • 自注意力、RNN和LSTM
  • 掩码子注意力机制
  • 多头自注意力机制
  • 位置编码
  • transformer框架
  • transformer的编码器
  • transformer的解码器
  • transformer的动态流程
  • transformer的输入和输出

第二部分 Transformer代码实现

  • Log in or register to post comments
RSS feed
Powered by Drupal