猛猿

在上篇介绍中，通讯负载不均的优化我们解释过了，但还遗留了一个显存开销问题：数据并行中，每个GPU上都复制了一份完整模型，当模型变大时，很容易打爆GPU的显存，那要怎么办呢？...

今天我们来介绍一种应用最广泛，最易于理解的并行范式：数据并行。 数据并行的核心思想是：在各个GPU上都拷贝一份完整模型，各自吃一份数据，算一份梯度，最后对梯度进行累加来更新...

本篇文章将探索流水线并行，经典的流水线并行范式有Google推出的Gpipe，和微软推出的PipeDream。两者的推出时间都在2019年左右，大体设计框架一致。主要差别为...

今天给小伙伴介绍一个轻量化的卷积神经网络——ShuffleNet V1，它特别设计用于在资源受限的设备上进行高效的图像分类任务，采用了一些创新设计来减少模型计算量和参数量，...

Hello，大家好，祝JYM中秋快乐，阖家团圆。节前最后一篇，陪你走到最后一刻。🥗🥗🥗本节将为大家介绍GPT和BERT的原理，一起来学学叭。🍚🍚🍚...

一文详细图解Swin Transformer架构，探索移动窗口attention、patch merging、patch partition等技术细节...

近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，传统的单机单卡...

上期介绍了知识蒸馏的核心原理，一句话概括——将教师模型的知识通过soft targets传递给学生模型。今天就来实战一下，看看教师模型、学生模型是怎样用代码构建的，学习如何...

NLP的内容很多，你如果在网上搜NLP学习路线的话你会看的眼花缭乱，本系列主要会介绍一些重要的知识点，一些老模型就不介绍了，感觉用处不大，我们的目标是向经典模型看齐，如GP...

对比扩散模型DDPM，配合详细的图例，具象化地数学原理解读，带大家从博弈论双人游戏的视角，重新了解一次GAN...

上期给小伙伴讲解了多目标追踪DeepSort算法的基本原理与工作流程。但读万卷书也要走万里路，只懂书本上的原理是万万不够滴，所以本期就带来了DeepSort的代码讲解，包括...

在CV大模型系列中，我们介绍了扩散模型的运作原理介绍了Transformer架构下做CV任务的方法，也介绍了多模态大模型CLIP。有了这么多的前置知识，今天，我们终于可以来...

在前面两节，我为大家介绍了如何将pytocrh模型转换成ONNX格式，进而提高深度学习模型部署速度， 在评论区有小伙伴们问，如何进行服务化，那么今天就为大家介绍介绍通过Fl...

七夕来了，让我看看不发文章的都在干嘛🎀🎀🎀🎀🎀🎀🎀🎀🎀我猜.......不可能是...... 今天继续为大家带来深度学习模型部署篇——从0部署深度学习分类...

MoCo v1（Momentum Contrast，v1版），一种在CV任务上，通过对比学习(contrast learning)做无监督(unsupervised)训练的...

上次给大家介绍了CycleGAN，那么必提起的就是pix2pix，作为图像生成和图像转译领域的必学经典，同时也是让人拍案叫绝的两个算法。pix2pix在语义标签图转真实图片...

深度学习模型部署篇——从0部署深度学习分类模型🥗🥗🥗今天准备来给大家介绍介绍我们如何来部署我们训练的深度学习分类模型。...

本文将介绍，如何基于Transformer架构，借鉴Bert的基本思想，做基于像素级别的图像重建任务。...

这篇文章给大家带来语义分割系列文章LR-ASPP的原理详解和源码实战，大家快来玩玩叭~~~🌸🌸🌸...

近年来，随着Transformer、MOE 架构的提出，使得深度学习模型轻松突破上万亿规模参数，传统的单机单...