梯度下降是优化中最流行的算法之一，也是目前用于优化神经网络最常用到的方法。同时，每个优秀的深度学习库都包含了优化梯度下降的多种算法的实现（比如，lasagne、caffe 和 keras 的文档）。然而，这些算法一般被封装成优化器，如黑盒一般，因此很难得到它们实际能力和缺点的解释。

0. 前言 学习梯度，需要一定的数学知识：导数（Derivative）、偏导数（Partial derivative）和方向导数（Directional derivative）。 1. 导数 2. 偏导数 可以看到，导数与偏导数的本质都是一样的，当自变量的变化量趋于0时，函数值…

本人从这2个角度（网页所见非所得、查接口请求没用）出发，制定了下面的反爬方案。 根据业务需要根据 SQL 语句生成对应的数据。如果是数字部分，则需要按照上面约定的方法加以转换。 然后为了防止爬虫人员查看 JS 研究问题，所以对 JS 的文件进行了加密处理。如果你的技术栈是 Vu…

无论是要解决现实生活中的难题，还是要创建一款新的软件产品，我们最终的目标都是使其达到最优状态。作为一名计算机科学专业的学生，我经常需要优化各种代码，以便提高其整体的运行速度。 一般情况下，最优状态会伴随问题的最佳解决方案。如果阅读近期发表的关于优化问题的文章的话，你会发现，优化…

7完结