武子康

scikit-learn 决策树剪枝（预剪枝）在工程落地中的常用参数：max_depth、min_samples_leaf、min_samples_split、max_features、min_imp

DecisionTreeClassifier 在 load_wine 数据集完成从数据拆分、建模评估到决策树可视化的完整流程（2026 版）。重点解释 criterion 的选择：gini（基尼不纯度

决策树信息增益（Information Gain）”展开，先用信息熵（Entropy）解释不纯度，再说明为何在节点切分时要最大化父节点熵与子节点熵之差：在 Ent(D) 固定的前提下，最大化 Gain

“分裂”到“剪枝”的完整链路，解释其为何通常采用贪心算法形成“局部最优”，以及不同算法在分裂准则上的差异：ID3/C4.5偏信息增益（Information Gain），但信息增益会偏向取值多的特征

决策树模型（Decision Tree）展开，面向分类任务系统梳理：树的三类节点（根节点/内部节点/叶节点）、从根到叶的递归分裂流程，以及“分而治之”的规则生成机制。在理论层面，给出决策树的条件概率分

scikit-learn（1.x）机器学习训练流程中，KNN 这类距离模型对“量纲不统一”极其敏感：欧式距离的平方和会让数值尺度更大的特征主导距离，从而显著拖垮分类效果。Min-Max 归一化

训练/测试随机划分会导致评估指标不稳定，并给出工程化解法：K 折交叉验证（K-Fold Cross Validation）。通过 sklearn 的 cross_val_score 在训练集内部做多次

从统一 API（fit/predict/transform/score）到 kneighbors 找出测试样本的 K 个最近邻，再到用学习曲线/参数曲线选择 n_neighbors（K 值）。

2025 年仍最常用的机器学习（Machine Learning）概念框架：监督学习（分类/回归）、无监督学习（聚类/降维）、半监督学习与强化学习（Agent-环境-奖励）。重点解释输入空间、输出空间