DecisionTreeClassifier 决策树分类
本章目标
- 明确本分册对应的 Decision Tree 源码入口与运行方式。
- 理解当前 Decision Tree 文档各章节分别负责解释什么内容。
- 建立从数据、模型、训练到评估的整体阅读路线。
对应代码速览
| 组件 | 路径 | 说明 |
|---|---|---|
| 数据生成 | data_generation/classification.py | ClassificationData.decision_tree() 生成二维多分类 blob 数据 |
| 数据导出 | data_generation/__init__.py | 导出 decision_tree_classification_data |
| 训练封装 | model_training/classification/decision_tree.py | train_model(...) 封装 sklearn.tree.DecisionTreeClassifier 训练 |
| 端到端流水线 | pipelines/classification/decision_tree.py | 完成切分、训练、预测与可视化 |
| 混淆矩阵可视化 | result_visualization/confusion_matrix.py | 绘制预测结果混淆矩阵 |
| ROC 曲线可视化 | result_visualization/roc_curve.py | 绘制多分类 One-vs-Rest ROC 曲线 |
| 特征重要性可视化 | result_visualization/feature_importance.py | 绘制树模型特征重要性图 |
| 决策边界可视化 | result_visualization/decision_boundary.py | 绘制 PCA 2D 空间下的决策边界 |
| 学习曲线可视化 | result_visualization/learning_curve.py | 绘制训练/验证得分曲线 |
默认配置速览（来自源码）
| 项目 | 当前实现 |
|---|---|
| 训练模型 | DecisionTreeClassifier(max_depth=6, min_samples_split=4, min_samples_leaf=2, criterion='gini', random_state=42) |
| 数据切分 | train_test_split(..., test_size=0.2, random_state=42, stratify=y) |
| 特征预处理 | 当前主模型流程不显式做标准化（树模型基于阈值切分，不依赖距离尺度） |
| 正式预测输出 | y_pred = model.predict(X_test.values) |
| 概率输出 | y_scores = model.predict_proba(X_test.values) |
| 评估方式 | 混淆矩阵 + ROC 曲线 + 特征重要性 + PCA 2D 决策边界 + 学习曲线 |
阅读路线
如何运行
示例代码
bash
python -m pipelines.classification.decision_tree理解重点
- 这个命令会串起当前 Decision Tree 分册中最核心的工程流程。
- 运行后会训练一个分类决策树模型，并输出混淆矩阵、ROC 曲线、特征重要性图、决策边界图和学习曲线。
- 当前任务是监督多分类，因此
label会真实参与模型拟合与测试集预测。
先修
小结
- 本分册严格对应当前仓库中的 Decision Tree 源码实现。
- 阅读时建议始终把文档内容与
pipelines/classification/decision_tree.py和model_training/classification/decision_tree.py对照起来看。 - 如果已经熟悉整体入口，可以直接从"数据构成""模型构建"或"训练与预测"章节开始阅读。