深度学习进阶理论

From:https://www.big-yellow-j.top/posts/2025/05/11/VAE.html 前文已经介绍了GAN的基本原理以及代码操作，本文主要介绍VAE其基本原理以及代码

日常使用比较多的生成模型比如GPT/Qwen等这些大多都是“文生文”模型（当然GPT有自己的大一统模型可以“文生图”）本文主要介绍GAN

本文主要介绍常用的Attention操作（多头注意力等）以及在KV-cahce中如何节约内容的操作包括：flash-attention、vLLM等原理

主要分析Kimi和DeepSeek最新的关于稀疏注意力的计算范式，这几篇文章都是针对长上下文的压缩方法，长上下文带来的平方级别的运算或存储复杂度给推理优化带来非常大的影响。

本文主要介绍多模态系列-1：Qwen多模态系列论文，并且对Qwen多模态的代码进行解析。将两个模型进行详细对比

本文主要介绍（论文发表时间：24.03-25.01）在多模态中使用**多个视觉编码器如何进行特征融合操作**