python大战机器学习
8篇文章 · 0订阅
  • 4. k近邻法
    k近邻法三要素：k值选择，距离度量和分类决策规则k值选择距离度量距离度量需要做归一化是个值得注意的点Lp距离参看统计学习第三章分类决策规则通常采用多数表决，等价于经验风险最小具体参看统计学习第三章kd
    机器学习
  • 3. 贝叶斯分类器
    概述贝叶斯定理朴素贝叶斯=贝叶斯估计+特征条件独立具体参看统计学习第四章
    机器学习
  • 2. 决策树
    连续值：离散化。如按照年龄大小分成老中青
    机器学习
  • 1. 线性模型
    普通线性回归线性模型一般使用梯度下降法（数值方法）梯度下降法要注意特征归一化广义线性回归（如对数线性回归）逻辑回归线性判别分析待补充
    机器学习
  • 12. 模型评估、选择和验证
    损失函数和风险函数损失函数风险函数经验风险经验风险是样本呈现的风险，样本数量越大，经验风险越逼近真实风险例子结构风险防止模型过于复杂（防止过拟合）例子模型评估方法训练误差，测试误差及泛化误差过拟合模型
    机器学习
  • 11. 数据预处理
    如x(t)存在缺失值，且其余值存在k个取值，新增一个k+1维的向量（独热编码）。
    机器学习
  • 10. 集成学习
    上述算法用于回归问题，即GBRT。
    机器学习
  • 7. 支持向量机
    如果满足上述条件，可以构成一个内积封闭的希尔伯特空间，必能找到合适的映射Φ(x)。 即无核，线性可分场景。可以先用这种试试 多项式核函数可以实现将低维的输入空间映射到高纬的特征空间，但是多项式核函数的参数多，当多项式的阶数比较高的时候，核矩阵的元素值将趋于无穷大或者无穷小，计算…
    机器学习