AI全栈学习

本文回顾了视觉生成模型的发展历程，从VAE、GAN、DM到DiT，见证了从概率建模、对抗生成到噪声去噪机制的演变。

本文探讨了从计算机视觉模型到现代多模态模型（如CLIP、ViLT）的演变过程，重点分析了Transformer架构在其中的关键应用。

本文深入解析了 Transformer 架构的核心组成与工作流程，重点介绍了其内部机制，包括自注意力、多头机制、位置编码、前馈网络等关键模块，并详细剖析了 Decoder 的结构与运行方式。

神经网络的原理：神经元模型、单层神经网络、多层神经网络、深层神经网络； 机器学习：损失函数、梯度下降+反向传播 LLM中的神经网络；

大语言模型的训练过程： 预训练：学习海量文本数据，掌握语言的基本结构与语义； 监督微调(SFT)：利用标注数据集使模型理解并执行特定指令； 强化学习(RLHF)：让模型懂人类偏好，输出高质量回答