PanJinhao

对kaggle入门题titanic的记录：成绩top 10%。 通过查看给出的数据集，该问题是一个二分类问题。 我的做法是将数据集下载到同目录的dataset文件夹下面，在...

多少行代码可以实现神经网络，并且了解反向传播算法。 如上，通过给定的输入的输出进行训练，最后根据给定输入预测输出。 训练数据如上。 如上，上部分为网络结构， 下部分为后面的...

最近在阅读 这本书，其中第二章使用一个完整的例子来说明机器学习解决问题的主要过程。 笔者实现了全部，打算做个回顾。...

上一篇文章简单了解了获取数据，切分训练集和测试集，对数据的简单理解。 接着对数据做进行更深一步的探索与可视化...

激活函数将神经网络最后一层输出当做输入，进行转换。也用于神经网络两层之间。 比如在逻辑回归中，用于将输出转换为0/1进行分类。在神经网络中用于确定输出是yes/no。或者将...

前者是关于神经网络和深度学习的一份简单的入门资料，后者是关于神经网络的一系列文章。 前者涉及到神经网络基本概念及其公式的介绍， 搭配手写数字识别的算法，对初学者非常友好。 ...

这篇文章打算介绍一下boosting 和xgboost，这两天也看了好多文章，也感觉了解的不深，算是做个记录。 先简单提一下Bagging， 原理是从现有数据中有放回的抽取...

之前简单介绍过决策树，这篇文章简单介绍一下GBDT(Gradient Boosting Decision Tree). 决策树是一种基本的分类与回归方法。决策树模型具有分类...

之前有文章介绍过决策树（ID3）。简单回顾一下：ID3每次选取最佳特征来分割数据，这个最佳特征的判断原则是通过信息增益来实现的。按照某种特征切分数据后，该特征在以后切分数据...

应该对现有流行并将继续流行下去的分类模型有深刻的了解。随机森林和支持向量机(svm) 上篇文章简单介绍了随机森林，这篇文章简单介绍一下支持向量机(svm)。 偏重应用，轻数...

之前简单介绍了决策树，这篇文章简单介绍一下随机森林以及优缺点。 通过构建并结合多个分类器来完成学习任务。将多个学习器进行结合，常比获得单一学习器更好的泛化性能。 目前集成学...

上次简单介绍了kNN算法，简单来说，通过计算目标值与样本数据的距离，选取k个最近的值，用出现概率大的分类值代表目标值的分类，算法实现比较简单，属于监督学习方法。 这篇文章打...

机器学习中，决策树是一个预测模型；代表对象属性和对象值之间的一种映射关系。树中每个节点表示某个对象，而每个分叉表示某个可能的属性，每个叶子节点则对应从根节点到该叶子节点所经...

朴素贝叶斯（Naive Bayesian）是最为广泛使用的分类方法，它以概率论为基础，是基于贝叶斯定理和特征条件独立假设的分类方法。 朴素贝叶斯（Naive Bayesia...

logistic回归是一种广义的线性回归，通过构造回归函数，利用机器学习来实现分类或者预测。 上一文简单介绍了线性回归，与逻辑回归的原理是类似的。 预测函数(h)。该函数就...

线性回归是机器学习中最基本的一个算法，大部分算法都是由基本的算法演变而来。本文着重用很简单的语言说一下线性回归。 包括一元线性回归和多元线性回归，一元指的是只有一个x和一个...

之前有不少人做过分析红楼梦前后是否为同一人所写，自己也想做个实现， 通过监督与非监督的方法来做个判断。 首先将红楼梦的txt文本保存在 datasets目录下。 提示：我用...

前面文章分别简单介绍了线性回归，逻辑回归，贝叶斯分类，并且用python简单实现。这篇文章介绍更简单的 knn， k-近邻算法（kNN，k-NearestNeighbor）...

一.KNN算法介绍 二.KNN算法核心思想 三.kNN算法三要素 四.KNN算法优缺点 五.源码简单实现 六.全部代码...