深度学习

从零开始讲 KV Cache 是什么、怎么算大小、四种压缩架构对比（GQA/MLA/Hybrid Mamba/Hybrid DeltaNet），到量化影响和 H100 实测验证，附 GPU 选型决策树。

实测对比 diffusers 两种 LoRA 加载方式在 20B 参数 Diffusion 模型上的质量差异，fuse_lora 与离线合并像素级一致，set_adapters 下降 2-18%。

用 CoDeC 方法检测 LLM 是否在 Benchmark 数据上训练过：给 Context 反而让模型更不自信，说明它记住了答案。4 个模型 x 5 个 Benchmark 的 H100 实测。

拆解 LLM 推理分离的六层技术栈和六大实现，在 2xH100 NVL 上用 8B 和 32B 模型实测 PD 分离、TP、Prefix Cache 和 Chunked Prefill 的真实表现。