Real-ESRGAN 論文導讀演講稿

69 阅读10分钟

Real-ESRGAN 論文導讀演講稿

Part 1 – Introduction(20 分鐘完整版)

日期:2025-11-10 | 講者:yui yu 投影片建議:共 9 張(每張標註對應時間點)


Part 1 – Introduction(20:00)

【投影片 1|0:00 – 1:00】
標題:從手機拍照開始說起
圖示:手機 → 調光 → JPEG → 上傳 IG → 轉發 5 次 → 模糊破圖
時間:60 秒

大家好!
想像一下:你用手機拍了一張美美的夕陽,調好參數、存成 JPEG、上傳到 Instagram,朋友轉發了 5 次……
最後你下載回來一看——怎麼變成一團糊?邊緣還有一圈圈白邊?

這就是 真實世界的圖像退化(Real-World Degradation)

  • 相機模糊(Camera Blur)
  • 感測器雜訊(Sensor Noise)
  • 銳化偽影(Sharpening Artifacts)
  • JPEG 壓縮(Compression)
  • 多次轉發再壓縮……

問題來了
我們手上的照片,根本不知道它到底經歷了什麼降質過程
但我們還是想把它「變清晰」——這就是今天要講的 盲超分辨率(Blind Super-Resolution)
Real-ESRGAN 正是目前最實用的解法。


切ppt

【投影片 2|1:00 – 3:00】
標題:什麼是超分辨率(Super-Resolution, SR)?
公式

y=f(x;s)x^=g(y)y = f(x; s) \quad \Rightarrow \quad \hat{x} = g(y)

時間:120 秒

1. 超分辨率的基本定義

  • 輸入:低解析度圖像 yy(LR)
  • 輸出:高解析度圖像 x^\hat{x}(SR)
  • 目標:從 720p → 1080p、4K,甚至 ×8 放大

2. 數學表達

  • xx:原始高解析圖(HR)
  • f()f(\cdot):退化函數(Degradation)
  • ss:縮放因子(scale factor)
  • g()g(\cdot):超分辨率模型(我們要訓練的)

例子:將 128×128 的圖 → 512×512

3. 里程碑

年份模型貢獻
2014SRCNN首個 CNN 超分
2017SRGAN引入 GAN → 視覺更真
2018ESRGANRRDB + 感知損失 → 視覺最佳基線

【投影片 3|3:00 – 6:00】
標題:ESRGAN 是什麼?為什麼強?
架構圖:生成器(RRDB) + 鑑別器
時間:180 秒

**切PPT**

ESRGAN 核心組件

模組說明
生成器(Generator)基於 SRResNet,但用 RRDB 殘差塊(Residual-in-Residual Dense Block)
→ 更深、更密、更穩
損失函數(Loss)三合一:
1. L1 像素損失 → 確保清晰
2. 感知損失(Perceptual Loss) → VGG 特徵對比,保留紋理
3. 對抗損失(Adversarial Loss) → GAN 推向「自然圖像流形」
鑑別器(Discriminator)Relativistic GAN
不是判「真/假」,而是判「SR 圖比真圖更假嗎?」→ 更穩定

結論
ESRGAN 在 PSNR + 視覺質感 上達到頂尖,
但有一個致命假設:退化是理想的 bicubic 下採樣


【投影片 4|6:00 – 10:00】
標題:盲超分辨率 vs 非盲超分辨率
對比表 + 醫生看病比喻
時間:240 秒

項目非盲 SR盲 SR
退化是否已知?已知(e.g., bicubic + 高斯模糊)未知
訓練假設y=(xk)s+ny = (x \otimes k) \downarrow_s + ny=?y = ?
比喻醫生知道你感冒 → 開感冒藥醫生不知道病因 → 先診斷,再開藥

如果还是不清晰,举个简单易懂的例子:普通超分辨率 (Ordinary Super-Resolution): 在这种情况下,模型通常会假设知道图像是如何降质的(例如,它可能知道图像是由一个特定的模糊核进行模糊处理的)。模型被训练来直接反转这种已知的降质过程。这就好比医生知道你得了什么病(比如感冒),然后对症下药。
盲超分辨率 (Blind Super-Resolution): 这里的“盲”意味着当模型在处理图像时不知道导致图像降质的具体原因(即“盲区”)。它面临的挑战是,不仅要进行超分辨率重建,更重要的是要首先估计或推断出图像经历了什么样的降质(例如,是运动模糊?是高斯噪声?是JPEG压缩?还是这些的组合?),然后再去反转它。这就像医生不知道你得了什么病,必须先诊断出病因,才能开药。

盲超分辨率的挑戰

  1. 必須同時做兩件事
    • 估計退化過程(Degradation Estimation)
    • 執行超分辨率(Super-Resolution)
  2. 現實中 99% 的圖片都是「盲」的
    • 老照片
    • 監控截圖
    • 社群轉發圖
    • 手機 P 圖前處理

盲超分辨率 = 超分辨率 + 退化盲估計


【投影片 5|10:00 – 13:00】
標題:為什麼以往盲 SR 會失敗?
圖示:退化空間爆炸(一階 vs 高階)
時間:180 秒

**切PPT**

真實退化長什麼樣?

拍照 → 相機模糊 + 雜訊
   ↓
編輯 → 銳化 + 濾鏡
   ↓
存檔 → JPEG 壓縮
   ↓
上傳 → 平台再壓縮
   ↓
轉發 → 又壓縮一次…

**切PPT**

兩大類盲 SR 方法

方法原理問題
顯式建模
(Explicit Modeling)
手動設計退化流程:
模糊 → 下採樣 → 雜訊 → JPEG
一階模型:固定順序、固定參數
→ 無法模擬真實複雜退化
隱式建模
(Implicit Modeling)
用 GAN 學「退化分佈」只能學到「訓練集內」的退化
→ 新相機、新壓縮就失效

這是「高階退化」(High-order Degradation)
多輪、重複、隨機組合的退化過程。

**切PPT**


【投影片 6|13:00 – 18:00】
標題:Real-ESRGAN 三大創新
流程圖:高階退化 + sinc 濾波 + 純合成
時間:300 秒

創新 1:高階退化建模(High-order Degradation Modeling)

一階高階(本文提出)
模糊 → 下採樣 → 雜訊(一次)重複 2 次(二階)for i in 1..2:  模糊 → 縮放 → 雜訊 → JPEG → …
  • 每輪參數隨機化(模糊核、雜訊強度、JPEG 品質)
  • 更貼近真實世界流程
  • 經驗證:二階最佳(簡單 ↔ 有效平衡)

創新 2:用 sinc 濾波器模擬「振鈴 & 超調」偽影

【投影片 7|插入示意圖】
:原始邊緣 :振鈴(波紋) :超調(白邊)

image.png

这里解释一下盲超分辨率和振铃伪影、超调伪影:

Blind super-resolution(盲超分辨率)是一种图像处理技术,旨在从低分辨率(LR)图像中恢复出高分辨率(HR)图像,且在此过程中,图像降质(degradation)的过程是未知的。这与已知降质核(或过程)的非盲超分辨率(non-blind super-resolution)相反。盲超分辨率对于真实世界场景非常有吸引力,因为它依赖于低分辨率图像,而不假设任何关于图像如何降质的具体信息 。

Ringing artifacts(振铃伪影)和overshoot artifacts(超调伪影)是在图像处理和合成过程中常见的两种问题。Ringing artifacts 通常出现在图像中边缘过渡的地方,视觉上看起来像边缘附近的多重细平行线,给人一种“幽灵”或“带状”的感觉。这种伪影可能是由信号的带限特性以及在图像重建过程中使用傅立叶变换造成的,特别是在高对比度的界面处,傅立叶级数的截断会导致显著的振铃现象,表现为变化的下冲和过冲振荡 。

Overshoot artifacts 则通常与ringing artifacts一起出现,表现为边缘过渡处的突增,这可能是由于锐化算法或JPEG压缩等引起的 。

两者一般是同时出现,在图像的表现上一般如下图所示:

image.png

什麼是偽影?
偽影表現成因
振鈴(Ringing Artifact)邊緣出現多條平行細線,像「幽靈波紋」傅立葉級數截斷(高頻被切)
超調(Overshoot Artifact)邊緣過亮/過暗(白邊、黑邊)銳化過度、JPEG 塊效應
如何模擬?
# 偽碼
lr = sinc_filter(hr, cutoff_freq)  # 截斷高頻 → 產生振鈴+超調
  • sinc filter 是理想低通濾波器
  • 真實相機 ISP 常過銳化 → 必須模擬!

創新 3:純合成數據訓練(Pure Synthetic Data)

傳統做法Real-ESRGAN
收集真實 LR-HR 配對(幾乎不可能)只用高清圖 + 模擬退化
數據稀缺、昂貴無限生成、可控、免標註

優點

  • 無需真實配對
  • 可精確控制退化類型
  • 擴展性強(想加新退化?改一行程式碼)

【投影片 8|18:00 – 20:00】
標題:訓練挑戰 & 技術改良
圖示:U-Net 鑑別器 + 譜歸一化
時間:120 秒

**切PPT**

訓練挑戰

問題原因
鑑別器判不出真假退化空間太大,細節太複雜
訓練不穩定U-Net 結構深 + 退化多樣

解決方案

改良效果
U-Net 鑑別器多尺度特徵提取,局部細節更敏銳
譜歸一化(Spectral Normalization)控制 Lipschitz 常數 → 訓練穩定

結果:

  • 細節更銳利
  • 偽影更少
  • 訓練不崩

**切PPT**


【投影片 9|20:00 – 21:00】
標題:總結:Real-ESRGAN 為什麼實用?
視覺對比:左:輸入 中:ESRGAN 右:Real-ESRGAN
時間:60 秒

三大貢獻總結

  1. 高階退化建模 + sinc 濾波器 → 模擬真實退化
  2. U-Net + 譜歸一化鑑別器 → 訓練穩、細節好
  3. 純合成數據 → 無需真實配對,實用性爆表

應用場景

  • 老照片修復
  • 監控畫面增強
  • 手機 P 圖前處理
  • 社群平台自動還原

【結束語|21:00】
「盲超分辨率不是科幻,是 Real-ESRGAN 已經實現的現實。」


預告 Part 2(30 秒)

「接下來 Part 2 – Method,我們要:

  1. 拆解高階退化 pipeline 程式碼
  2. 看 sinc 濾波器怎麼實作
  3. 畫出 U-Net 鑑別器結構
    還有 PyTorch 逐行解析 + 訓練技巧!」

講稿控制表(精確到秒)

時間內容投影片字數
0:00–1:00開場:手機退化1150
1:00–3:00什麼是 SR?公式2300
3:00–6:00ESRGAN 架構3450
6:00–10:00盲 vs 非盲4600
10:00–13:00為何以往失敗5450
13:00–18:00三大創新6–7750
18:00–20:00訓練改良8300
20:00–21:00總結 + 預告9150
總計9 張3,150 字

投影片建議(9 張)

1. [圖示] 手機拍照 → 多次壓縮 → 模糊
2. [公式] y = f(x;s) → SR 目標
3. [架構圖] ESRGAN:RRDB + 3 損失
4. [表格] 盲 vs 非盲 + 醫生比喻
5. [流程圖] 一階 vs 高階退化
6. [總覽] 三大創新
7. [示意圖] 振鈴 & 超調 + sinc 濾波
8. [結構圖] U-Net 鑑別器 + SN
9. [對比圖] 輸入 vs ESRGAN vs Real-ESRGAN

前情提要

什麼是增強型超分辨率生成?

增強型超分辨率生成,簡而言之,就是將圖像從觀察到的低分辨率圖像重建為更高分辨率圖像,例如將 720p 圖像升級到 1080p。如何實現這一點?透過深度卷積神經網絡,這就是我們提到的 ESRGAN(增強型 SRGAN)。

為什麼“Real”很重要?

當你在圖片處理軟體中使用手機相機拍攝的照片時,這張照片經過參數優化後可能會包含各種複雜的模糊、噪聲和壓縮伪影。這些問題會影響最終效果,而 Real-ESRGAN 的目標就是解決這些現實中的問題。

盲超分辨率是什麼?

這裡的“盲”意指模型不知道圖像是如何變得模糊或低分辨率的。想像你有一張清晰的照片,通過多種方式使其變模糊,這樣的情況下,盲超分辨率模型的挑戰在於先估計圖像經歷的降質過程(如運動模糊、高斯噪聲等),然後再進行超分辨率重建。

盲超分辨率的挑戰

盲超分辨率模型不僅要進行超分辨率重建,還需要首先推斷出造成圖像降質的原因。這就像醫生不知道病因,必須先進行診斷才能對症下藥。


這份講稿已經根據提供的內容進行了補充,詳盡地涵蓋了超分辨率生成的概念、盲超分辨率的定義及其挑戰,以及 Real-ESRGAN 的創新與應用。如果有其他需要調整或添加的部分,請隨時告訴我!