一文吃透Transformer代码与应用【附226篇顶会论文】

 短短五年,Transformer就几乎颠覆了整个自然语言处理领域的研究范式,也促进了计算机视觉、计算生物学等领域的研究进展。


面对所有想深度学习Transformer,尤其是在代码方面需要提高的同学们。我邀请了多位顶会大咖,做了22节最全Transformer系列课程,带你吃透理论和代码,了解未来应用,扫清学习难点。


本次课程有两大亮点:

亮点一:精讲论文+代码

亮点二:详解Transformer的多方向应用


论文+代码

多方向应用

精讲VIT、PVT、Swin Transformer、DETR论文和代码,扎实理论+吃透代码。

详解预训练语言模型应用/基于VIT的语义分割算法/在视觉任务中的应用与高效部署。

0.01元解锁22节系列课

带你吃透理论和代码

免费领取226篇Transformer顶会论文合集



Transformer系列课程目录


阶段一:吃透论文和代码,牢牢掌握Transformer基础

1:CV-transformer 概述

2:CV-transformer VIT论文讲解

3:CV-transformer PVT论文详解

4:CV-transformer PVT代码详解

5:CV-transformer Swin Transformer论文详解

6:CV-transformer Swin Transformer代码详解

7:CV-transformer DETR 论文详解

8:CV-transformer DETR代码讲解

9:CV-transformer——VIT

10:CV-transformer——MAE

11:CV中的transformer专题MAE详解


阶段二:掌握Transformer多方向应用

1:Transformer简介和预训练语言模型应用

2:基于Vision Transformer的语义分割算法

3:Transformer在视觉任务中的应用与高效部署

  • ViT为的主图像分类网络

  • Segformer为主的图像分割网络

  • 常用轻量化方法介绍

  • 以Transformer为主的视觉任务设计高效的轻量化方法

  • 未来挑战与研究方向



0.01元解锁22节系列课

带你吃透理论和代码

免费领取226篇Transformer顶会论文合集



Transformer系列论文


另外我还整理了通用ViT、高效ViT、训练transformer、卷积transformer等细分领域226篇顶会论文,带你从「Transformer的前世」速通到大模型。


论文目录:(因篇幅有限,仅展示前十篇)

1. Neural Machine Translation by Jointly Learning to Align and Translate(2014)

2. Attention is All you need (2017)

3. On Layer Normalization in the Transformer Architecture (2020)

4. Universal Language Model Fine-tuning for Text Classification (2018)

5. Harnessing the Power of LLMs in Practice (2023)

6. Cramming: Training a Language Model on a Single GPU in One Day (2022)

7. LoRA: Low-Rank Adaptation of Large Language Models (2021)

8. Training Compute-Optimal Large Language Models (2022)

9. Constitutional AI: Harmlessness from AI Feedback (2022)

10. Pythia: A Suite for Analyzing Large Language Models Across Training and Scaling (2023)


扫码获取226篇Transformer顶会论文合集

带你从「Transformer的前世」速通到大模型


相关推荐

  • APP如何与H5通信?
  • 超火超实用的 10 个前端工具库,可能就是你一直在寻找的~
  • AI浪潮,Spring也赶上了!?
  • 盘点历届 Java 语言的关键字,一定有你不认识的
  • 用 Lag-Llama 进行时间序列预测实战
  • 这算是裁到大动脉了吧
  • [开源]轻松构建车联网平台,可应用于各种车辆监管场景和应用平台
  • Kubernetes新手必看:快速生成YAML清单的终极指南!
  • 记一次疑似JVM内存泄漏的排查过程
  • 高中信息技术考试竟然有Flash、IIS、Frontpage、Access、VB……
  • 带您认识物联网首选协议MQTT
  • 29.3K Star强!集成微信登录,核心代码就10行
  • 下半年!真心建议大家冲一冲新兴领域,工资高前景好
  • 探索TypeScript的映射类型,从简单到高级的7个实例
  • 【第17讲】6月17日,AI代写(期刊、演讲稿、小说)
  • 茅台降价,“黄牛”公司纷纷跑路
  • 黄仁勋 · 加州理工2024届毕业典礼演讲 | 2024年6月14日(全文+视频)
  • 面试为什么老爱问 Redis?
  • 成都周报丨策源投了清华系大模型,高新区天使母基金遴选GP
  • 天使++轮拿了近亿融资丨投融周报