提高大模型微调效率最新SOTA，性能强大易复现！
▎直播课概览
1️⃣ 论文摘要2️⃣ 研究背景■ Efficient Fine-Tuning■ Parameter-Efficient Fine-Tuning△ Adapter-based Tuning△ Low-Rank Adaptation△ Prefix Tuning△ Prompt Tuning■ Memory-Efficient Fine-Tuning3️⃣ 相关工作■ Parameter-Efficient Fine-Tuning■ LoRA and its variants▼ 扫码加助教，免费预约直播课！
4️⃣ 算法研究
■ Overview of DoRA
■ Low-Rank Adaptation (LoRA)
■ Weight Decomposition Analysis
■ Weight-Decomposed Low-Rank Adaptation
■ Gradient Analysis of DoRA
■ 实验结果5️⃣ 代码实现
■ Settings and Dataset
■ Multilayer Perceptron Model (without LoRA and DoRA)
■ Multilayer Perceptron Model (with LoRA and DoRA)
■ Train model with LoRA
■ Train model with DoRA
6️⃣ 总结和展望■ Compiling to CUDA■ IO-Aware Deep Learning■ Multi-GPU IO-Aware Methods■ 总结▎直播课导师
Lattner导师
大模型高效计算资深专家；AI公司创业者及合伙人，精通深度学习、机器学习、高性能计算等；在自然语言处理、计算机视觉、多模态等领域，均有建树。▼ 扫码加助教，免费预约直播课！
1v1定制化论文指导分三个阶段：
1️⃣ 选题阶段
● 导师根据学员实际情况与需求，引导论文idea或给出论文idea；
● 导师针对已有研究成果进行梳理和分析指导，让学员了解研究领域的发展状况、研究方法和趋势，确定论文idea的研究方法和目标；
● 导师结合己有研究成果的情况和论文idea，对学员后续的研究方法做出初步的规划和判断。
● 实验设计，明确研究问题、研究目标和研究方法；
● 数据收集、整理与分析，确保数据的质量和完整性；
● 实验代码实现与模型训练；
● 实验微调与结果统计、呈现。
● 论文写作方法指导，论文写作框架与格式；
● 参考文献筛选与列举；
● 期刊会议筛选与投稿建议指导；
● 论文文字部分的修改与润色；
● 论文中所必要的表格与图片制作。
● 非常适合科研小白：有科研需求，想融会贯通地使用算法模型，了解前沿进展和方向；
● 非常适合转专业和研究领域做敲门砖用：从事人工智能领域工作，想系统提升算法理论，高效掌握算法设计及创新思路，快速了解论文撰写技能。
● 学习经典前沿论文，掌握算法原理和实现，了解不同算法的优劣势；
● 指定领域创新点；
● Coding能力增强；
● 论文写作方法以及投稿建议。
● 主讲导师：顶会审稿人，负责经典论文+前沿论文讲解+idea给予/方向建议+写作方法+投稿建议；
● 私人群：每个同学都有与主讲导师私人讨论的小群（idea探讨以及课程内容答疑）；
● 全程线上语音meeting+开麦沟通。
● 根据需要发表论文的区位不同，指导总周期在3到18个月不等。
● 核心指导期是正常的上课指导周期，维护期是学员已经写出论文投出去后，可能会收到审稿意见要求修改或者退稿的情况（主讲导师会给同学进一步的修改建议，必要的话会约会议沟通，最多6次meeting）。
● 在核心指导期，一般是每周1次1对1会议指导课，每次在45分钟左右。
▎导师团队
研梦拥有一支实力强大的高学历导师团队，在计算机科学、机器学习、深度学习等领域，积累了丰富的科研经历，研究成果也发表在国际各大顶级会议和期刊上，在指导学员的过程中，全程秉持初心，坚持手把手个性化带教。
▼ 扫码匹配适合自己研究方向的导师+了解更多导师
✨ 人工智能零基础入门课免费领
AI形成和未来 | Python速通 | Pytorch速通
✨ 7小时科研论文写作系列课免费领
科研基础知识 | 投稿经验攻略 | LLaMA论文实操 | 投稿后注意事项 | 论文写作理论篇 | 论文写作实践篇 | 会议如何rebuttal？
✨ 14节前沿论文直播课程免费领
CV方向 | NLP/大模型方向 | 推荐系统方向
✨ GPU算力免费领
50小时 3080 GPU算力
✨ 论文资料免费领
百篇大语言模型/多模态大型语言模型前沿&必读论文 | 顶会顶刊论文