扩散模型

写作动机 这个工作开篇可以看到是在Diffusion-LM的基础上展开叙述的。 因为扩散模型作为新的生成模型在连续域数据上已经取得了比较好的效果，优于其出色的成圣多样性和可控性，因此研究人员可考虑用扩

碎碎念 这不能算重复造轮子。 事情起因是这样的，我今天想换一个schedule试一下。我是做文本的，在文本的schedule中，我觉得应该试一下sqrt schedule。但是我很确定我现在用的代码里

这个文章是关于论文《Improved Denoising Diffusion Probabilistic Models》的论文解读。 Improving the Log-likelihood

👩：我简单说两句 扩散模型是一类新兴的生成模型，扩散模型将高斯分布中抽取的随机噪声转换为由样本集合指定的未知数据分布中的样本。这类生成模型最近在连续数据域取得了广泛成功，如图像、音频和视频。扩散模型在

即插即用，基于常微分方程（ODEs）开发一个高效采样器，通过有效的自适应将预训练的LMs链接到隐空间。 现实世界的文本应用通常涉及到组合多种文本控制操作，如根据属性编辑文本、操作关键词和结构以及生成具

本文仅适用于已经了解什么是Diffusion Model的人。 我们知道，在Diffusion Model中存在正向扩散过程——破坏数据 和 逆向扩散过程——生成过程。在正向过程中，我们给定一个数据，

In this paper, we show that DDPMs can achieve loglikelihoods competitive with other likelihood-based

接着这篇文章进行另一个角度的公式推导： 变分自编码器 | Variational Auto-Encoder 在数学上，我们可以将潜变量和我们观察到的数据想象成一个联合分布$p( x , z)$来建模，

正态分布标准化 对于一个服从高斯分布的随机变量$x \sim \mathcal N(\mu,\sigma^2)$，计算其均值$\mu$和标准差$\sigma$。 其概率密度函数： $$ f(x) =

问题来源 事情是这样的： 本来我们讲论文，把文章中的图改成上边这样，让读者更了解模型结构就行了。 但是同读论文的师兄发出如下疑问： 下边是ControlNet的论文原文写的： 大致意思是说： 为了和S

First, we must define an embedding function that maps discrete text into a continuous space.

你可以不看ControlNet原理解析，但是你总要看美女吧。 光知道ControlNet好用，不想知道它背后的原理么？今天就看一看这篇论文，带大家了解一下ControlNet是如何炼成的。

持续创作，加速成长！这是我参与「掘金日新计划 · 10 月更文挑战」的第10天！ U-Net出自 [U-Net: Convolutional Networks for Biomedical Image

有时候，考虑某个东西的最简单版本有助于更好地理解它的工作原理。在这个文章中，我们将从一个“玩具”扩散模型开始，看看其不同的部分是如何工作的。

原来的AE是将输入映射到固定向量，现在VAE的要求是将其映射到分布中，也就是给原来的固定点引入噪音，你要在这个噪声的范围的都能重建回这个图像。将原来的一个点变成了一个范围。

持续创作，加速成长！这是我参与「掘金日新计划 · 10 月更文挑战」的第24天，点击查看活动详情 论文地址：Hierarchical Text-Conditional Image Generation

持续创作，加速成长！这是我参与「掘金日新计划 · 10 月更文挑战」的第25天，点击查看活动详情 从VEA角度看 生成建模的一个核心问题是模型概率分布的灵活性和易处理性之间的权衡。 扩散模型的基本思想

本文正在参加「金石计划 . 瓜分6万现金大奖」 扩散模型是一种生成模型，在过去的几年里忽然火了起来，这其中也是有一定原因的。 单看2020前后的几篇开创性的文章我们就可以知道扩散模型的性能了。

我正在参加「掘金·启航计划」 模型起源 2015年的时候，有几位大佬基于非平衡热力学提出了一个纯数学的生成模型 (Sohl-Dickstein et al., 2015)。不过那个时候他们没有用代码实

持续创作，加速成长！这是我参与「掘金日新计划 · 10 月更文挑战」的第23天，点击查看活动详情 扩散模型的悲惨开始 搞AI的都知道，一个模型好不好空口无凭，我们必须要用数据说话。但是扩散模型刚出来的