这篇文章主要介绍了激活函数的概念和作用，通过图文结合理解激活函数，将几种激活函数进行对比，以及如何选择合适的激活函数。

激活函数是指在多层神经网络中，上层神经元的输出和下层神经元的输入存在一个函数关系，这个函数就是激活函数。

1. draw_convnet 2. NNSVG 3. PlotNeuralNet 这个工具是基于 Latex 代码实现的用于绘制网络结构，可以看看使用例子看看这些网络结构图是如何绘制出来的。 4. TensorBoard 使用过 TensorFlow 的都应该知道这个绘图工具…

densenet 结构 层名称 类型 输入大小 (H x W x C) 输出大小 (H x W x C) 核尺寸 步长 参数数量 Initial Conv Conv2D 224 x 224 x 3 1

提示词： AlexNet 层名称 类型 输入大小（HWC） 输出大小（HWC） 核尺寸 步长 参数数量 输入层 输入 227x227x3 - - - 0 Conv1 卷积层 227x227x3 55x

神经网络通俗指南, 不用数学公式，尽可能用打比方的方法，再加一些动画来说明神经网络。

1.背景介绍 神经网络，作为人工智能的核心技术之一，已经在各个领域取得了显著的成果。从图像识别、自然语言处理到自动驾驶，神经网络的应用无处不在。然而，尽管神经网络已经取得了巨大的成功，但是它的未来发展

关键词：轻量化、剪枝、蒸馏、量化 前言 在实际工程中我们往往需要在pc端进行部署安装，这个时候我们迫切需要让神经网络的推理效率变的更快，精度尽量不会有损失，这个时候剪枝、蒸馏和量化是我们不二的选择

什么！深度神经网络你只知道CNN？那你就落伍了嗷，今天就给大家介绍一下庞大的深度神经网络家族，包括DQN、RNN、GAN等高达十几种网络模型，它们在计算机视觉、自然语言处理、推荐系统等领域