Skip to content

SVC 支持向量分类

本章目标

  1. 明确本分册对应的 SVC 源码入口与运行方式。
  2. 理解当前 SVC 文档各章节分别负责解释什么内容。
  3. 建立从数据、模型、训练到评估的整体阅读路线。

对应代码速览

组件路径说明
数据生成data_generation/classification.pyClassificationData.svc() 生成同心圆二分类数据
数据导出data_generation/__init__.py导出 svc_data
训练封装model_training/classification/svc.pytrain_model(...) 封装 sklearn.svm.SVC 训练
端到端流水线pipelines/classification/svc.py完成切分、标准化、训练、预测与可视化
混淆矩阵可视化result_visualization/confusion_matrix.py绘制预测结果混淆矩阵
决策边界可视化result_visualization/decision_boundary.py绘制 PCA 2D 空间下的决策边界
学习曲线可视化result_visualization/learning_curve.py绘制训练/验证得分曲线

默认配置速览(来自源码)

项目当前实现
训练模型SVC(C=1.0, kernel='rbf', gamma='scale', random_state=42)
数据切分train_test_split(..., test_size=0.2, random_state=42, stratify=y)
特征预处理StandardScaler 仅在训练集 fit,测试集 transform——标准化对 RBF 核方法至关重要,因为距离计算对特征尺度敏感
正式预测输出y_pred = model.predict(X_test_s)——基于决策函数 sign(f(x)) 的硬分类
评估方式混淆矩阵 + PCA 2D 决策边界 + 学习曲线

阅读路线

  1. 数学原理
  2. 数据构成
  3. 思路与直觉
  4. 模型构建
  5. 训练与预测
  6. 评估与诊断
  7. 工程实现
  8. 练习与参考文献

如何运行

示例代码

bash
python -m pipelines.classification.svc

理解重点

  • 这个命令会串起当前 SVC 分册中最核心的工程流程。
  • 运行后会训练一个 RBF 核 SVC 模型(求解对偶优化问题),并输出混淆矩阵、决策边界图和学习曲线。
  • 当前任务是监督二分类(同心圆),数据本身线性不可分——因此默认 RBF 核是该数据形态的直接回应。

先修

小结

  • 本分册严格对应当前仓库中的 SVC 源码实现。
  • SVC 的核心特点:判别式模型 + 最大间隔优化 + 核技巧(将非线性问题映射为高维线性问题)——与逻辑回归(线性判别式)、KNN(基于实例)、决策树(递归划分)、GaussianNB(生成式)在建模思路上有本质区别。
  • 当前使用 make_circles 构造的同心圆数据 + SVC(kernel='rbf'),是展示核方法处理非线性分类的最经典教学配置。