GaussianNB 高斯朴素贝叶斯

本章目标

1. 明确本分册对应的 Naive Bayes 源码入口与运行方式。
2. 理解当前 Naive Bayes 文档各章节分别负责解释什么内容。
3. 建立从数据、模型、训练到评估的整体阅读路线。

对应代码速览

组件	路径	说明
数据加载	data_generation/classification.py	ClassificationData.naive_bayes() 加载 iris 多分类真实数据集
数据导出	data_generation/__init__.py	导出 naive_bayes_data
训练封装	model_training/classification/naive_bayes.py	train_model(...) 封装 sklearn.naive_bayes.GaussianNB 训练
端到端流水线	pipelines/classification/naive_bayes.py	完成切分、标准化、训练、预测与可视化
混淆矩阵可视化	result_visualization/confusion_matrix.py	绘制预测结果混淆矩阵
ROC 曲线可视化	result_visualization/roc_curve.py	绘制多分类 One-vs-Rest ROC 曲线
决策边界可视化	result_visualization/decision_boundary.py	绘制 PCA 2D 空间下的决策边界
学习曲线可视化	result_visualization/learning_curve.py	绘制训练/验证得分曲线

默认配置速览（来自源码）

项目	当前实现
训练模型	GaussianNB(var_smoothing=1e-9)
数据切分	train_test_split(..., test_size=0.2, random_state=42, stratify=y)
特征预处理	StandardScaler 仅在训练集 fit，测试集 transform——虽 GaussianNB 不依赖梯度优化，但标准化使方差估计更稳定，且利于 PCA 可视化
正式预测输出	y_pred = model.predict(X_test_s)——最大后验概率类别
概率输出	y_scores = model.predict_proba(X_test_s)——贝叶斯后验概率
评估方式	混淆矩阵 + 多分类 One-vs-Rest ROC 曲线 + PCA 2D 决策边界 + 学习曲线

阅读路线

1. 数学原理
2. 数据构成
3. 思路与直觉
4. 模型构建
5. 训练与预测
6. 评估与诊断
7. 工程实现
8. 练习与参考文献

如何运行

示例代码

python -m pipelines.classification.naive_bayes

理解重点

• 这个命令会串起当前 Naive Bayes 分册中最核心的工程流程。
• 运行后会训练一个 GaussianNB 模型（估计各类别的均值和方差，不做迭代优化），并输出混淆矩阵、ROC 曲线、决策边界图和学习曲线。
• 当前任务是监督多分类（iris，3 类），因此 ROC 曲线按 One-vs-Rest 方式为每个类别各画一条。

先修

• 库生态总览
• NumPy 基础与数组概念
• 预处理
• 项目架构

小结

• 本分册严格对应当前仓库中的 Naive Bayes 源码实现。
• 朴素贝叶斯的核心特点：生成式模型（对 $P(\mathbf{x}|Y)$ 建模）+ 条件独立假设——与逻辑回归（判别式）、KNN（基于实例）、决策树（判别式递归划分）在建模思路上有本质区别。
• 当前使用 iris 真实数据集 + GaussianNB（连续特征高斯似然），是朴素贝叶斯家族中最适合连续特征教学的变体。