From Fidelity to Perceptual Quality: A Semi-Supervised Approach for Low-Light Im

808 阅读2分钟

CVPR 2020

简介

文章提出了一个深度递归波段网络(deep recursive band network,DRBN),在递归带(DRBN)学习中,它通过4次迭代网络获得不同尺度的增强结果,通过计算这些增强结果的差值。在得到差值之后,在其波段重组阶段,文章将其进行融合以得到最终的增强结果。在网络最后,还添加了鉴别器以提高图像的真实性。文章表示,该网络能够使增强结果具有良好的细节,以及真实和高质量的特性。

Model

观察左上角的网络,网络输入为上一次的增强结果和原始的低光图像,其输出了3张尺寸不同的增强结果。右上角的网络也是一样的。

除了传输了原始低光图像和上一次增强结果,从上一轮增强网络传入的信息还有f_{s_1}^{t-1}f_{s_2}^{t-1}f_{s_3}^{t-1},分别为解码器网络得到的不同尺度的特征图。

深度递归波段模块中的损失函数仅使用了SSIM,对不同尺寸的增强结果进行约束。

在波段重组重组阶段,文章通过深度递归波段模块中最后一轮的增强结果,得到了\Delta \hat{x}_{s_1}^n\Delta \hat{x}_{s_1}^n\Delta \hat{x}_{s_1}^n。其中\Delta \hat{x}_{s_1}^n=\hat{x}^{T}_{s_1},即最小的增强图像。其余的两幅图为不同尺寸增强结果之差(上采样后相减),得到了细节图。

将它们输入到融合网络中得到3张权重图,逐像素相乘后相加得到最后的值。

网络还在最后添加了一个鉴别器,其负责区分输入的图像是否是正常观感的高质量图像(亮度良好,清晰度良好,无噪声等等)。

通过最后的增强结果,计算了VGG和SSIM损失,另外还加上了鉴别器网络的损失。

数据和训练

训练设置

  • 学习率为0.0001
  • 图像大小为256
  • 批大小为4
  • 鉴别器学习率为1\times10^{-6}
  • 第一阶段训练了300轮
  • 第二阶段训练了30轮
  • 在训练第二阶段时,第一阶段的网络被固定
  • 使用Adam优化器
  • 训练集有689张图像,测试集有100张图像

对比和测试

测试指标

指标对比

SSIM-GC是Gamma校正的结果

结果展示