生成式扩散可以探索如何使用生成模型来合成具有高质量和多样性的数据。在 AI 长期发展中,谷歌、OpenAI 等都接连推出了自己的生成模型,如 Imagen、Dall·E 2 等。
生成式扩散还可以应用于诸多领域。例如,图像生成方面,可以使用生成式扩散来生成高质量的图像样本。在自然语言处理领域,生成式扩散可以用于合成自然语言文本,生成多样化的句子和段落。
11月1日,我们邀请到哈工大计算机博士,多篇顶会一作作者李老师为我们带来——从VAE到扩散模型,生成式扩散新SOTA,带我们探索生成模型的多样性。
107篇最新扩散模型论文部分展示
01
导师简介
-哈工学计算机科学与技术PhD在读
-在IEEE TCSVT等中科院一区期刊和国际顶级会议上共发表论文多篇,包括一区期刊IEEE Transactions on Circuits and Systems for Video Technology, 二区期刊Neurocomputing,CCF-B类会议ICME, ICASSP等
-担任国际顶级会议 AAAI, NeurIPS,期刊 IEEE TCSVT 的常任审稿人
-研究方向:人工智能、机器学习、深度学习、多模态表征学习、脉冲神经网络和信源信道联合编码等
02
直播大纲
1)探索如何使用生成模型来合成具有高质量和多样性的数据
3)生成模型的优势
4)生成模型可以应用的领域
前段时间,谷歌推出了DreamBooth扩散模型,实现了将现实物体在图像中真实还原的功能,只需几张(通常 3~5 张)指定物体的照片和相应的类名(如“狗”)作为输入,并添加一个唯一标识符植入不同的文字描述中,DreamBooth 就能让被指定物体“完美”出现在用户想要生成的场景中。
生成式扩散的具体专业内容涉及多个领域和技术,包括生成模型、梯度下降算法、扩散过程和生成样本评估等。
1.生成模型:生成式扩散的核心是使用生成模型来合成数据。常用的生成模型包括生成对抗网络(GANs)、变分自编码器(VAEs)、自回归模型等。这些模型能够从潜在空间(latent space)中采样,并通过学习数据分布的特征来生成新样本。
2.梯度下降算法:生成式扩散通常使用梯度下降算法来训练生成模型。梯度下降算法通过最小化生成样本与真实数据之间的差异来提高生成模型的性能。常用的梯度下降算法包括随机梯度下降(SGD)、Adam优化器等。
3.扩散过程:扩散过程是生成式扩散的核心方法。扩散过程通过逐渐将噪声信号中添加真实数据,使噪声逐渐"扩散"成具有高质量的数据。这个过程中使用梯度下降算法对生成模型进行优化,从而逐渐减小与真实数据之间的差异。
4.生成样本评估:生成式扩散研究中,评估生成样本的质量和多样性是非常重要的。常用的评估方法包括计算生成样本与真实数据之间的相似度、计算样本多样性的度量指标等。这些评估方法帮助研究者了解生成模型的性能,并指导模型的改进。
107篇最新扩散模型论文部分展示
对于还没有发过第一篇论文,还不能通过其它方面来证明自己天赋异禀的科研新手,学会如何写论文、发顶会的重要性不言而喻。
文末福利