轻墨

只要输入图片稍微改一个像素、平移一个像素，CNN的输出就会发生巨大的变化，所以很容易招到对抗攻击。 今天分享一篇致力于解决CNN平移不变性对抗性攻击的ICML2019的一篇论文，《Making Convolutional Networks Shift-Invariant Aga…

AlexNet是划时代的，可以说掀起了机器学习的一场革命，标志着神经网络的凤凰涅槃、浴火重生，标志着深度学习大一统时代的来临，标志着通用人工智能又一次触手可及，也标志着一个超大级的人工智能泡沫的起点。 今天，就让我们以崇敬的心态，重温划时代之作AlexNet，具体论文是《Ima…

图片分类是机器学习经典问题，也是深度学习声名鹊起之作。正是2012年AlexNet在图片分类竞赛ImageNet出乎寻常的性能，使得深度学习一夜爆红，方有今天人工智能的井喷之势。 由于深度学习在图片分类上极其成功，且代码简单，图片分类便成为深入学习入门学习任务。通常几行代码，就…

2015年6月，YOLOv1横空出世，标志着一步式物体检测算法时代的到来，同年12月，经典一步式物体检测算法SSD出世，在准确度和速度上均击败了傲娇的YOLOv1。经过一年的探索，2016年12月，YOLOv1作者Joseph Redmon发布YOLOv2，以图扳回一城。 下图…

YOLOv1是继Faster R-CNN后，第一个one stage物体检测算法，开创了物体检测算法一个全新流派，自YOLOv1后，物体检测基本分为one stage和two stage两个流派。 下图是YOLO在整个物体检测算法历史上的坐标。 可以看出，YOLOv1是在Fas…

当数据较多或者模型较大时，为提高机器学习模型训练效率，一般采用多GPU的分布式训练。 模型并行：分布式系统中的不同GPU负责网络模型的不同部分。例如，神经网络模型的不同网络层被分配到不同的GPU，或者同一层内部的不同参数被分配到不同GPU； 数据并行：不同的GPU有同一个模型的…

物体检测算法，按算法结构，可以分为one-stage和two-stage两类。 two-stage经典算法主要是R-CNN族，以准确度见长，速度稍慢，一般不如one-stage。 one-stage算法主要包括YOLO、SSD、CornerNet等，以速度快见长，准确度一般不如…

先简单回顾下主成分析PCA(principle component analysis)与奇异值分解SVD(singular value decomposition)。 降维后的各个维度之间相互独立，即去除降维之前样本x中各个维度之间的相关性。 式1就是协方差矩阵C的特征值分解，…

深度学习项目，在训练之前，一般均会对数据集做shuffle，打乱数据之间的顺序，让数据随机化，这样可以避免过拟合。 所有的狗都在猫前面，如果不shuffle，模型训练一段时间内只看到了Dog，必然会过拟合于Dog，一段时间内又只能看到Cat，必然又过拟合于Cat，这样的模型泛化…