首页
AI Coding
NEW
沸点
课程
直播
活动
AI刷题
APP
插件
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
会员
登录
注册
确定删除此收藏集吗
删除后此收藏集将被移除
取消
确定删除
确定删除此文章吗
删除后此文章将被从当前收藏集中移除
取消
确定删除
编辑收藏集
名称:
描述:
0
/100
公开
当其他人关注此收藏集后不可再更改为隐私
隐私
仅自己可见此收藏集
取消
确定
机器学习算法
订阅
香橙云子
更多收藏集
微信扫码分享
微信
新浪微博
QQ
17篇文章 · 1订阅
L1正则化与嵌入式特征选择(稀疏性)
岭回归,是线性回归的L2正则化方式。本质上是一种回归。 给定数据集D = {(x1,y1),(x2,y2),...,(xm,ym)},其中xϵR^d dimension,yϵR。我们考虑最简单的线性回归模型,以平方误差为损失函数: 对于正则化不太了解的朋友可以看我这一篇文章《L…
LightGBM,XGBoost被面试官刁难了?内有含泪面试经验
LightGBM,XGBoost作为非常经典的GBDT模型,网上原理和实战代码都一大堆。但是看了几个公式,写了几行代码。是不是总觉得心里空空的。直到有一次被面试官问道。给你一堆数据,让你用GBDT模型去处理。这些数据在模型内部是如何运行的呢,最终答案如何得到的呢?虽然现场可以结…
手推BP算法-面试前抢救一下
网上关于BP算法的解释浩如烟海,我没必要多写一篇充数,不过面试之前总想快速的复习一下,奈何没有成文的资料。本文旨在提取出纯净的推导过程,不过多解释,为了有基础的朋友们面试前快速过一下。 单个神经元的最简单神经网络模型如上图所示,也称作“M-P神经元模型”。该模型可以视为神经网络…
名字即意义---从软间隔到线性支持向量机
支持向量机的进阶部分,之前我是做过最基本的推导的。想看的朋友戳这里《线性可分支持向量机》。 上一篇我推导了一遍支持向量机的基本内容。包括支持向量机为什么提出,如何提出,还有为什么叫这个名字等方面,也包括支持向量机的完整数学推导。但是我们会发现一个问题,就是我们所有的推导都是建立…
经典的决策树算法
我们在机器学习中一直会遇到两种问题,一种是回归问题,一种是分类问题。我们从字面上理解,很容易知道分类问题其实是将我们现有的数据分成若干类,然后对于新的数据,我们根据所分得类而进行划分;而回归问题是将现有数据拟合成一条函数,根据所拟合的函数来预测新的数据。 这两者的区别就在于输出…
诞生即有理---CART(Classification And Regression Tree)
我将CART独立于其他经典决策树算法的原因是CART相对来说较为复杂。因为它不仅仅可以作为分类树,还可以作为回归树。 对于对于CART分类树,这就和我们之前所说的《经典决策树算法》中的ID3与C4.5非常类似,但是与他们不同的是,我们在CART中并不采用信息增益或者是信息增益比…
面试前抢救一下--朴素贝叶斯分类器
朴素贝叶斯分类器,实际上也是对人们常识做的一个算法的完善。其以一种更为精准的量化来判断分类,使用的方法是后验概率。本文从与决策树的比较出发,介绍先验概率和后验概率的关系,再详细介绍一下朴素贝叶斯算法的流程。 朴素贝叶斯算法比较简单,所以此文多是留以面试前复习之用。理清各个问题之…
手推逻辑回归--面试前拯救一下
LogisticRegression,逻辑回归。虽然其名称中含有回归二字,但其是一种非线性分类模型。逻辑回归的模型引入了sigmoid函数映射,是非线性模型,但其本质上又是一个线性回归模型。其仅仅是在线性分类之外套了一层sigmoid映射,所以在sigmoid约束后的样本空间内…
存在即有理---线性规划中的对偶
在求解一个规划问题(不限于线性规划)的时候,我们常常需要知道这个问题有没有可行解(有时候约束条件很复杂,不要说最优解,找到可行解都很难),或者是估计一下目前的解离最优解还有多远(大型问题多用迭代解法,如果能大致估计当前的解的质量,就对算法什么时候运行结束有一个大致的把握,如果得…
存在即有理---拉格朗日对偶
这得需要一点拉格朗日乘子法的认识。大家可能都很熟悉这个著名的方法。但是还是有很多入门的朋友忘记了具体过程的,所以还是希望大家看一下这个来系统的认识一下此方法《拉格朗日乘子法》 建议战斗人员多啃几遍,最好可以做到自己可以手推公式。 这与原始问题的解是等价的。因为最小化将给去掉了。…