WaveFill: A Wavelet-based Generation Network for Image Inpainting阅读笔记

374 阅读2分钟

摘要

这篇文章创新之处在于利用频率域的思想来实现图像修复。以前基于深度学习的图像修复往往是在空间域上进行的。重建损失和对抗损失分别是合成不同频率的内容,简单的将他们一起应用往往会导致频率间的冲突损害图像修复。因此这篇文章提出了将图像经过小波变换分为低频段和高频段,将对抗损失运用于高频段,重建损失应用于低频段,缓解了频率间的冲突,提高了图像修复的质量。

网络结构

image.png

输入图片经过DWT小波变换分解成LowFreq,lv1,lv2三个频段。首先使用GCResBLK低频段完成,然后对生成的特征传播到高频分支通过FRAN归一化进一步完成。L1损失应用于低频分支,高频分支使用对抗性损失进行训练。最后通过逆变换转化为空间域产生预测。

Frequency Region Attentive Normalization

image.png

频域归一化操作。在将高频信号投影到特征空间后,FRAN通过聚合低频到高频的注意力分数来对齐高频和低频特征。然后,高频特征通过低频特征得到的注意力分数进行卷积,产生被注入归一化低频特征的调制参数γH和βH

总结

提出了一种新的图像修复框架WaveFill,该框架在小波域中分离低频和高频信息,并分别显式地填充受污染的区域。为了保证多个频段的修复一致性,我们提出了一种新的频域注意力归一化算法(FRAN),它有效地对齐和融合了多个频率特征,特别是缺失区域内的特征。大量的实验表明,WaveFill对于矩形和自由形状的掩模都取得了优异的图像修复效果。下一步,我们将研究如何将小波分解和不同频段的分离处理的思想应用于其他图像恢复和生成任务