十种论文常见网络架构:一次讲透深度学习的 "骨架"

0 阅读5分钟

看懂了架构,差不多就看懂了深度学习论文一半的内容。

导语

翻最近这些年的 AI 论文,你会发现一个很有意思的规律:不管任务花里胡哨,是看图识别、机器翻译还是生成视频,撑着这些效果的,翻来覆去就那么几种网络架构。

说到底,深度学习模型就围绕四个问题干活:怎么提取特征?信息怎么传?怎么学到更好的数据表达?怎么生成新数据? 不同的网络结构,本质就是给这几个问题拿出的不同解法。这篇挑了 10 个最经典的神经网络和生成模型,从最简单的全连接网络说起,一直讲到现在大火的扩散模型,帮你搭一份清晰的架构清单。

一、最朴素的开端:MLP 与 CNN

MLP(多层感知机) 算是深度学习的起点。它就是一层一层全连接:这一层的每一个神经元,都和上一层所有神经元相连,反复做线性计算再加激活函数,完成特征转换。思路简单通用,但短板也很明显:参数巨多,而且完全利用不了图片这类数据里的空间位置信息。

CNN(卷积神经网络) 就是为了解决这个痛点出来的。核心两点:局部连接,神经元不用看整张图,只盯一小块区域;权重共享,同一个卷积核在图片上到处滑动、重复使用。这么一改,参数量直接降下来,天生擅长抓局部图像特征,计算机视觉也跟着迎来爆发。

好的架构不是越复杂越好,而是把数据本身的特点,直接写到网络设计里面。

二、处理序列:RNN 与 Transformer

文字、语音、股价,很多现实数据都是一串有序的序列。RNN(循环神经网络) 的思路很好理解:边读边记。靠循环连接保存历史信息,把前面读到的内容压缩成一个状态向量不断往后传,以此捕捉先后顺序带来的依赖关系。但它有个硬伤:隔得太远的信息,很容易慢慢丢失、记不住。

Transformer直接换了一套玩法,不再按顺序慢慢传信息,序列里任意两个位置都可以直接交互。核心就是注意力机制,每个位置都能看看序列里其他所有内容,根据相关性加权整合信息,搭建上下文关系。支持并行计算、能抓远距离依赖、还能堆很多层,靠着这些优势,成了现在大模型的根基。

三、处理图结构:GNN

社交关系网、分子结构、知识图谱,这些数据既不是规整的图片网格,也不是一条序列,而是图。 GNN(图神经网络) 就适配这种结构:依托节点和边的关系,不断收集邻居的信息做聚合,更新节点特征。简单说,每个节点反复 “问问” 身边邻居的信息,把邻居特征汇总过来,迭代几次之后,这个节点就带上了周边拓扑结构的信息。

四、压缩与重建:Autoencoder、U-Net、ResNet

Autoencoder(自编码器) 想法很巧妙:先把输入压缩到一个维度很小的瓶颈层,再尝试还原出原始输入。编码器 + 解码器搭配,在还原任务的约束下,网络不得不抓住数据最核心的特征 —— 抓不住重点,就还原不回去。

U-Net最早是给医学图像分割设计的,标准的编码器 - 解码器结构:编码器不断下采样,抓高层语义;解码器不断上采样,恢复空间位置细节。最妙的是跳跃连接,把编码器同尺寸的特征直接拼给解码器,深层语义和浅层细节结合在一起。后来也成了扩散模型里去噪网络的标配。

ResNet(残差网络) 解决一个很现实的坑:网络堆得越深,反而越难训练、效果越差。它的解法是残差连接:不让网络从头学完整映射,只需要学习输入和目标之间的差值;如果学不到东西,至少可以原样把信息传过去。靠着这个改动,上百层、上千层的深度网络才变得好训练。

五、学会生成:GAN 与 Diffusion

前面几种都偏向 “理解数据”,最后这两个主打 “生成新内容”。先说清楚:GAN 和 Diffusion 是生成模型的一套框架,不是固定不变的网络结构。

GAN(生成对抗网络) 由生成器和判别器组成,像造假的和鉴别的互相博弈:生成器拼命生成逼真样本糊弄判别器,判别器努力分辨真假。两者一起对抗训练、互相提升,最后生成器学到真实数据的分布,产出逼真内容。

Diffusion(扩散模型) 走的是完全不同的路线:前向过程一点点往原图上加噪声,直到图片变成纯噪音;然后训练网络学会反向去噪,从一堆随机噪声里,一步步还原出清晰图片。它训练稳定、生成效果上限很高,Stable Diffusion、Sora 背后都是这套思路,而且它里面做去噪的主干网络,用的就是前面说的 U-Net。

结语

表格

技术路线代表架构核心机制
前馈网络MLP全连接 + 非线性激活
空间特征CNN局部连接 + 权重共享
序列建模RNN / Transformer隐藏状态 / 注意力机制
图表示学习GNN邻域信息传递聚合
编码 — 解码Autoencoder / U-Net / ResNet潜在表示 / 跳跃连接 / 残差学习
生成模型GAN / Diffusion对抗训练 / 加噪 — 去噪

这几类架构,没有哪一个是万能终极方案。CNN 不擅长处理序列,Transformer 原生不适合图拓扑。每种架构,都是针对一类特定数据结构做出的取舍。比起死记名字,更关键是看懂:信息在这个网络里,是怎么流动起来的。

架构是骨架,数据是血肉,而你要解决的问题本身,才是灵魂。