时间被海绵吃了

在 numpy 中，有些运算返回 shape 为 (R, 1) 而有些返回 (R,)。由于需要显式调用 reshape，这会让矩阵乘法变得更加繁琐。举例来说，假设有一个矩阵 M，如果我们想执行 numpy.dot(M[:,0], numpy.ones((1, R)))，其中 R…

感知器（perceptron）是 人造神经元（artificial neuron）的一种，也是最基本的一种。它接受一些输入，产生一个输出。 我们在神经元里定义一些 权重（weight），经过计算之后，判断结果是否超过一个 阈值（threshold），如果超过，神经元输出 1；反…

反向传播（Backpropagation） 是训练神经网络的一种常见手段。在 神经网络基础 这一节里，我们提到，确定好每个神经节点的权重（weight）与偏差（bias）之后，就能通过前馈（feedforward）确定神经网络的输出，但这只是输出预测值。我们还需要根据预测值，来…

在使用 python 下载文件时，比如使用 MNIST 图片训练集，由于网络原因，可能造成临时文件没有下载成功，导致再次执行程序报错。如： 一般来说，解决方法都是删除临时文件，有一些解决方案给出的是删除 ~/.keras/datasets/ 目录下的 database 文件，如…

在识别手写数字的流程中，我们提到，Softmax 层将神经网络的输出变成了一个概率分布。这里面主要用到的就是 Softmax 函数。 我们可以从一个选择的问题说起。假设我们要从 3 个个体里随机选择一个个体，但它们分别具有权重为 1、4、13，我们希望权重高的个体更容易被选中。…

“识别手写数字” 在几天之前对我来说还是觉得很厉害的一件事，或许这需要很高深的机器学习的算法？但是这几天看了一些关于神经网络的文章，才发现识别数字其实是一个很简单的事情（当然这里指的是最基本的识别单个数字），甚至可以算是 计算机视觉（Computer Vison）的 “Hell…

Numpy 中的 axis 对初学者而言是一个非常容易引起困扰的概念，本文希望通过图文并茂的方式，让大家能对 axis 有一个直观的认识。 axis 本身就是 轴 的意思，它实际上代表了要在哪个轴上进行求和，所以使用 sum 函数时，一定要有一个空间上的概念，这样会非常容易理解…

在本教程中，你可以学习梯度下降法（gradient descent algorithm）是如何工作的，并使用 python 从头开始实现它。首先我们看看线性回归（linear regression）是什么，然后定义损失函数（loss function）。我们学习梯度下降算法是如…

Node.js 因为其设计而饱受批评。 与 Java, C 或 Python 等编程语言相比，Node.js 不能直接访问线程显得有些奇怪。我们怎么能并发地执行任务呢？ 好吧，实际上早在 Node.js 11 之前我们就可以使用 cluster 模块来并发/并行地执行代码，正如…