天泽28

经过一周昏天黑地的加班之后，终于到了周末，又感觉到生活如此美好，遂提笔写一写KNN，这个也许是机器学习众多算法中思想最为简单直白的算法了，其分类思想，总结起来就一句话：近朱者赤，近墨者黑。当然，KNN也可以用于回归任务，在回归任务中，采用“平均法”，即把离预测样本最近的K个样本…

这篇博客主要介绍一下RNN的基础知识，如果你对RNN已经很了解了，想动手自己撸个RNN加深下理解，那么直接转到 RNN（recurrent neural network）（二）——动手实现一个RNN。RNN主要用于处理序列数据，因此在NLP领域发挥了巨大的影响，被广泛用于语言模…

最近在实习的时候用到了kmeans做个聚类，采用了sklearn框架，平时在学校数据集规模一般都比较小，搬搬砖一切都ok，但是在工业界碰到大数据量的时候（还没有到用hdfs存的地步，数据集大约10G的样子，370w左右的样本，每个样本维度200），就没有想象中的这么顺利了，中间…

主要介绍batch normalization的一下几个方面： 1.BN的目的及思想 2.BN的公式 3.BN的优点 4.BN的bp推导 5.BN的代码实现

最近在做数字手势识别的APP，把TensorFlow训练好的模型迁移到Android studio上进行相应APP的开发，因为要把摄像头拍到的图片压缩到64*64大小，而TensorFlow Lite并没有pc端提供的压缩函数。因为使用的area interpolation（面…

为了防止过拟合的问题，我们最常使用的手段就是L2正则化，即在代价函数后面加一个L2正则项。关于L2正则化，我前面的博客已经讲了很多次了，这里就不在赘述了。这篇博客主要介绍下dropout regularization（丢弃正则化），dropout正则化是Srivastava在2…

我们在训练神经网络模型时，最常用的就是梯度下降，这篇博客主要介绍下几种梯度下降的变种（mini-batch gradient descent和stochastic gradient descent），关于Batch gradient descent（批梯度下降，BGD）就不细说…

写在前面： 做机器学习这么长时间了，最近有很多同学问我有没有机器学习方面的一些资料，因此整理了下我所知道的机器学习资料，希望能够帮助到想学习机器学习的同学。这些资料，有些我看过，有些是正在看的，有些是还没来得及看的。 注：转载请注明原文出处（原文链接和作者）。 一、视频 1、A…