1.导言，sklearn入门

2.决策树：概述

3.1分类树：参数criterion

3.2分类树：完结一棵树，随机性参数

3.3 分类树：剪枝参数调优(1)

3.4 分类树：剪枝参数调优(2)

3.5 分类树：重要特色和接口

4.1 回归树：参数，特色和接口

4.2 回归树：穿插验证 (1)

4.3 回归树：穿插验证(2)

4.4 回归树事例：用回归树拟合正弦曲线

5.1 事例：泰坦尼克号生计者猜测 (1)

5.2 事例：泰坦尼克号生计者猜测 (2)

5.3 事例：泰坦尼克号生计者猜测 (3)

5.4 事例：泰坦尼克号生计者猜测 (4)

02章 随机森林与医疗数据集调参

1 集成算法概述

2.1 随机森林分类器

2.2 参数boostrap & oob_score + 重要特色和接口

2.3 [选学] 袋装法的另一个必要条件

3.1 随机森林回归器

3.2 事例：用随机森林添补缺失值 (1)

3.3 事例：用随机森林添补缺失值 (2)

3.4 事例：用随机森林添补缺失值 (3)

3.5 事例：用随机森林添补缺失值 (4)

4. 机器学习中调参的基本思想

5.1. 事例：随机森林在乳腺癌数据上的调参 (1）

5.2 事例：随机森林在乳腺癌数据上的调参 (2)

03章 数据预处理与特征工程

0 概述 + 12期课纲

1.1 数据预处理1：数据归一化

1.2 数据预处理2：数据标准化

1.3 数据预处理3：缺失值 (1)

1.4 数据预处理4：缺失值 (2)

1.5 数据预处理5：处理分类型数据

1.6 数据预处理6：处理接连型数据

2.1 特征挑选1：过滤法-方差过滤 (1)

2.2 特征挑选2：过滤法-方差过滤 (2)

2.3 特征挑选3：过滤法-卡方过滤

2.4 特征挑选4：过滤法-F查验和互信息法 (1)

2.5 特征挑选5：过滤法-互信息法(2) + 总结

2.6 特征挑选6：嵌入法 (1)

2.7 特征挑选7：嵌入法 (2)

2.8 特征挑选8：包装法 + 总结

04章 降维算法PCA与手写数字辨认

1 降维算法概述

2.1 降维终究怎样完结？

2.2 参数 + 事例：高维数据的可视化 (1)

2.2 参数 + 事例：高维数据的可视化 (2)

2.3 PCA中的SVD，重要参数svd_solver

2.3 参数 + 事例：人脸辨认中的components_运用.mp4

2.4 重要接口 + 事例1：用人脸辨认看PCA降维后的信息保存量

2.4 重要接口 + 事例2：用PCA完结手写数字的噪音过滤

2.5 原理，流程，重要特色接口和参数的总结

3.1 事例：PCA完结784个特征的手写数字的降维 (1

3.2 事例：PCA完结784个特征的手写数字的降维 (2)

05章 逻辑回归和信誉评分卡

0 前语

1.1 逻辑回归概述：名为“回归”的分类器

1.2 为什么需求逻辑回归

1.3 sklearn傍边的逻辑回归

2.1.1 二元逻辑回归的丢失函数

2.2.1 正则化：重要参数penalty & C

2.2.2 逻辑回归的特征工程 (1)

2.2.2 逻辑回归的特征工程 (2)

2.2.2 逻辑回归的特征工程 (3)

2.2.2 逻辑回归的特征工程 (4)

2.3.1 重要参数max_iter – 梯度下降求解逻辑回归的进程

2.3.2 梯度的概念与解惑

2.3.3 步长的概念与解惑

2.4 二元回归与多元回归：重要参数solver & multi_class

2.5 样本不均衡与参数class_weight

3.1 事例：评分卡与完好的模型开发流程

3.2.1~2 事例：评分卡 – 数据预处理(1) – 重复值与缺失值

3.2.3 事例：评分卡 – 数据预处理 (2) – 异常值

3.2.4 事例：评分卡 – 数据预处理 (3) – 标准化

3.2.5 事例：评分卡 – 数据预处理 (4) – 样本不均衡问题

3.2.6 事例：评分卡 – 数据预处理 (5) – 保存练习集和测验集数据

3.3 事例：评分卡 – 分箱 (1) – 概述与概念

3.3.1 事例：评分卡 – 分箱 (2) – 等频分箱 (1)

3.3.1 事例：评分卡 – 分箱 (3) – 等频分箱 (2)

3.3.2 事例：评分卡 – 分箱 (4) – 选学阐明

3.3.3 事例：评分卡 – 分箱 (5) – 核算WOE与IV

3.3.4 事例：评分卡 – 分箱 (6) – 卡方查验、箱体兼并、IV值等

3.3.5 事例：评分卡 – 分箱 (7) – 包装分箱函数

3.3.6 事例：评分卡 – 分箱 (8) – 包装判别分箱个数的函数

3.3.7 事例：评分卡 – 分箱 (9) – 对一切特征进行分箱

3.4 事例：评分卡 – 映射数据 (1)

3.4 事例：评分卡 – 映射数据 (2)

3.5 事例：评分卡 – 建模与模型验证

3.6 事例：评分卡 – 评分卡的输出和树立

06章 聚类算法与量化事例

0 概述

1.1 无监督学习概述，聚类vs分类

1.2 sklearn傍边的聚类算法

2.1 Kmeans是怎样作业的？

2.2 & 2.3 簇内平方和，时刻复杂度

3.1.1 KMeans – 重要参数n_clusters

3.1.2 聚类算法的模型评价方针 (1)

3.1.2 聚类算法的模型评价方针 (2) – 概括系数

3.1.2 聚类算法的模型评价方针 (3) – CHI

3.1.3 事例：概括系数找最佳n_clusters (1)

3.1.3 事例：概括系数找最佳n_clusters (2)

3.1.3 事例：概括系数找最佳n_clusters (3)

3.2 重要参数init & random_state & n_init：初始质心怎样决议？

3.3 重要参数max_iter & tol：怎样让聚类停下来？

3.5 重要特色与接口 & 函数k_means

4 事例：Kmeans做矢量量化 (1)：事例布景

4 事例：Kmeans做矢量量化 (2)

4 事例：Kmeans做矢量量化 (3)

4 事例：Kmeans做矢量量化 (4)

07章 支撑向量机与医疗数据集调参

0 本周要学习什么

1.1 支撑向量机概述：最强壮的机器学习算法

1.2 支撑向量机是怎样作业的 & sklearn中的SVM

2.1.1 线性SVC的丢失函数 (1)

2.1.1 线性SVC的丢失函数 (2)

2.1.2 函数距离与几许距离

2.1.3.1 丢失函数的拉格朗日乘数形状

2.1.3.2 拉格朗日对偶函数 (1)

2.1.3.2 拉格朗日对偶函数 (2)

2.1.3.3 求解拉格朗日对偶函数极端后续进程

2.1.4 SVM求解可视化 (1)：了解等高线函数contour

2.1.4 SVM求解可视化 (2)：了解网格制造函数meshgrid与vstack

2.1.4 SVM求解可视化 (3)：建模，制作图画并包装函数

2.1.4 SVM求解可视化 (4)：探究树立好的模型

2.1.4 SVM求解可视化（5）：非线性数据集上的推行与3D可视化

2.1.4 SVM求解可视化（6）：Jupyter Notebook中的3D交互功用

2.2.1 & 2.2.2 非线性SVM与核函数：重要参数kernel

2.2.3 事例：怎样选取最佳核函数 (1)

2.2.3 事例：怎样选取最佳核函数 (2)

2.2.4 事例：在乳腺癌数据集上探究核函数的性质

2.2.5 事例：在乳腺癌数据集上对核函数进行调参 (1）

2.2.5 事例：在乳腺癌数据集上对核函数进行调参 (2)

2.3.1 SVM在软距离数据上的推行

2.3.2 重要参数C & 总结

08章 支撑向量机与Kaggle事例：澳大利亚气候数据集

0 目录：本周将学习什么内容

1.1 简略温习支撑向量机的基本原理

1.2 参数C的深化了解：多个支撑向量存在的理由

1.3 二分类SVC中的样本不均衡问题

1.3 怎样运用参数class_weight (1)

1.3 怎样运用参数class_weight (2)

2 SVC的模型评价方针

2.1 混杂矩阵与精确率

2.1 样本不平衡的艺术(1)：精确度Precision

2.1 样本不平衡的艺术(2)：召回率Recall与F1 measure

2.1.3 对大都类样本的关心：特异度Specificity和假正率

2.1.4 sklearn中的混杂矩阵

2.2 ROC曲线：Recall与假正率FPR的平衡

2.2.1 概率与阈值

2.2.2 SVM做概率猜测

2.2.3 制作ROC曲线 (1)

2.2.3 制作ROC曲线 (2)

2.2.3 制作ROC曲线 (3)

2.2.4 sklearn中的ROC曲线和AUC面积

2.2.5 运用ROC曲线求解最佳阈值

3 选学阐明：运用SVC时的其他考虑

4 事例：猜测明日是否会下雨 – 事例布景

4.1 事例：导库导数据，探究特征

4.2 事例：分集，优先处理标签

4.3.1 事例：描述性计算，处理异常值

4.3.2 事例：实际数据上的数据预处理 – 处理时刻

4.3.3 事例：实际数据上的数据预处理 – 处理地址 (1)

4.3.3 事例：实际数据上的数据预处理 – 处理地址 (2)

4.3.3 事例：实际数据上的数据预处理 – 处理地址 (3)

4.3.3 事例：实际数据上的数据预处理 – 处理地址 (4)

4.3.4 事例：实际数据上的数据预处理 – 添补分类型变量的缺失值

4.3.5 事例：实际数据上的数据预处理 – 编码分类型变量

4.3.6 & 4.3.7 事例：实际数据集上的数据预处理：接连型变量

4.4 事例：建模与模型评价 (1)

4.4 事例：建模与模型评价 (2)

4.5.1 事例：模型调参：寻求最高的recall

4.5.2 事例：模型调参：寻求最高的精确度 (1)

4.5.2 事例：模型调参：寻求最高的精确度 (2)

4.5.3 事例：模型调参：寻求精确度与recall的平衡

4.6 SVM总结与结语

09章 回归大家族：线性，岭回归，Lasso，多项式

0 本周要学习什么.mp4

1 概述，sklearn中的线性回归大家族

2.1 多元线性回归的基本原理和丢失函数

2.2 用最小二乘法求解多元线性回归的进程

2.3 多元线性回归的参数，特色及建模代码

3.1 回归类模型的评价方针：是否猜测精确？

3.2 回归类模型的评价方针：是否拟合了满足的信息？

4.1 多重共线性：意义，数学，以及处理方案

4.2.1 岭回归处理多重共线性

4.2.2 sklearn中的岭回归：linear_model.Ridge

4.2.3 为岭回归挑选最佳正则化参数

4.3.1 Lasso处理多重共线性

4.3.2 Lasso的中心作用：特征挑选

4.3.3 Lasso挑选最佳正则化参数

5.1.1 & 5.1.2 线性数据与非线性数据

5.1.3 线性vs非线性模型 (1)：线性模型在非线性数据集上的体现

5.1.3 线性vs非线性模型 (2)：拟合，效果与特色

5.2 离散化：协助线性回归处理非线性问题

5.3.1 多项式对数据做了什么？

5.3.2 多项式回归提高模型体现

5.3.3 多项式回归的可解释性

5.3.4 多项式回归：线性仍是非线性模型？ + 本周结语

10章 朴素贝叶斯

0 本周要解说的内容

1.1 为什么需求朴素贝叶斯

1.2 概率论根底 – 贝叶斯理论等式

1.2.1 瓢虫蛰伏：了解条件概率 (1)

1.2.1 瓢虫蛰伏：了解条件概率 (2)

1.2.1 瓢虫蛰伏：了解条件概率 (3)

1.2.2 贝叶斯的性质与最大后验估量

1.2.3 汉堡称重：接连型变量的概率估量 (1)

1.2.3 汉堡称重：接连型变量的概率估量 (2)

1.3 sklearn中的朴素贝叶斯

2.1.1 知道高斯朴素贝叶斯

2.1.2 高斯朴素贝叶斯拿手的数据集

2.1.3 探究贝叶斯 – 拟合中的特性与运转速度 (1)

2.1.3 探究贝叶斯 – 拟合中的特性与运转速度 (2) – 代码解说 (1)

2.1.3 探究贝叶斯 – 拟合中的特性与运转速度 (3) – 代码解说 (2)

2.1.3 探究贝叶斯 – 拟合中的特性与运转速度 (4) – 剖析与定论

2.2.1 概率类模型的评价方针 (1) – 布里尔分数

2.2.1 概率类模型的评价方针 (2) – 布里尔分数可视化

2.2.2 概率类模型的评价方针 (3) – 对数丢失Logloss

2.2.3 概率类模型的评价方针 (4) – 可靠性曲线 (1)

2.2.3 概率类模型的评价方针 (5) – 可靠性曲线 (2)

2.2.4 概率类模型的评价方针 (6) – 概率散布直方图

2.2.5 概率类模型的评价方针 (7) – 概率校准 (1)

2.2.5 概率类模型的评价方针 (8) – 概率校准 (2)

2.3.1 多项式朴素贝叶斯 (1) – 知道多项式朴素贝叶斯

2.3.1 多项式朴素贝叶斯 (2) – 数学原理

2.3.1 多项式朴素贝叶斯 (3) – sklearn中的类与参数

2.3.1 多项式朴素贝叶斯 (4) – 来结构一个分类器吧

2.3.2 伯努利朴素贝叶斯 (1) – 知道伯努利朴素贝叶斯

2.3.2 伯努利朴素贝叶斯 (2) – sklearn中的类与参数

2.3.2 伯努利朴素贝叶斯 (3) – 结构一个分类器

2.3.3 探究贝叶斯 – 朴素贝叶斯的样本不均衡问题

2.3.4 补集朴素贝叶斯 – 补集朴素贝叶斯的原理 (1)

2.3.4 补集朴素贝叶斯 – 补集朴素贝叶斯的原理 (2)

2.3.4 补集朴素贝叶斯 – 处理样本不均衡问题

3.1.1 事例：贝叶斯做文本分类 (1) – 单词计数向量技能

3.1.1 事例：贝叶斯做文本分类 (2) – 单词计数向量的问题

3.1.2 事例：贝叶斯做文本分类 (3) – TF-IDF技能

3.2 事例：贝叶斯做文本分类 (4) – 探究和提取文本数据

3.3 事例：贝叶斯做文本分类 (5) – 运用TF-IDF编码文本数据

3.4 事例：贝叶斯做文本分类 (6) – 算法运用与概率校准

11章 XGBoost

0 本周要学习什么

1 XGBoost前瞻：装置xgboost，xgboost库与skleanAPI

2.1 梯度提高树(1)：集成算法回忆，重要参数n_estimators

2.1 梯度提高树(2)：参数n_estimators下的建模

2.1 梯度提高树(3)：参数n_estimators的学习曲线

2.1 梯度提高树(4)：根据方差-误差窘境改善的学习曲线

2.2 梯度提高树(5)：操控有放回随机抽样，参数subsample

2.3 梯度提高树(6)：迭代决策树：重要参数eta

2.3 梯度提高树(7)：迭代决策树：重要参数eta

3.1 XGBoost的才智 (1)：挑选弱评价器：重要参数booster

3.2 XGBoost的才智 (2)：XGBoost的方针函数，运用xgboost库建模

3.3 XGBoost的才智 (3)：求解XGBoost的方针函数 – 推导进程

3.3 XGBoost的才智 (4)：XGboost的方针函数 – 泰勒打开相关问题

3.4 XGBoost的才智 (5)：参数化决策树，正则化参数lambda与alpha

3.5 XGBoost的才智 (6)：树立方针函数与树结构的直接联络

3.5 XGBoost的才智 (7)：最优树结构，求解w和T

3.6 XGBoost的才智 (8)：贪婪算法求解最优树

3.7 XGBoost的才智 (9)：让树中止成长：参数gamma与东西xgb.cv

4.1 XGBoost运用 (1)：减轻过拟合：XGBoost中的剪枝参数

4.1 XGBoost运用 (2)：运用xgb.cv进行剪枝参数的调参

4.2 XGBoost运用 (3)：运用pickle保存和调用练习好的XGB模型

4.2 XGBoost运用 (4)：运用joblib保存和调用练习好的XGB模型

4.3 XGBoost运用 (5)：XGB分类中的样本不平衡问题 – sklearnAPI

4.3 XGBoost运用 (6)：XGB分类中的样本不平衡问题 – xgboost库

4.4 XGBoost运用 (7)：XGB运用中的其他问题

课件

01 决策树课件数据源码

决策树 事例部分源码-checkpoint

决策树 原理部分源码-checkpoint

决策树 事例部分源码

决策树 原理部分源码

决策树 full version

决策树原理更新

data

Taitanic data

test

Tree

Tree

Tree【瑞客论坛 www.ruike1

赢知源 资源网-付费网课 百度网盘资源，百度云盘下载，下载链接，百度云分享，资源共享免费，下载资源，

02随机森林

随机森林 full version

digit recognizor

Record

sample_submission

test

train

03数据预处理和特征工程

record-checkpoint

数据预处理和特征工程 – 数据

数据预处理与特征工程 full version

数据预处理与特征工程 full version

digit recognizor

Narrativedata

record

04主成分剖析PCA与奇异值分解SVD

Record-checkpoint

record2-checkpoint

降维算法 full version

降维算法 full version

digit recognizor

Record

record2

05逻辑回归与评分卡

逻辑回归-checkpoint

评分卡模型-checkpoint

逻辑回归 full version

逻辑回归 full version

逻辑回归

逻辑回归课件 + 数据

评分卡模型

model_data

rankingcard

ScoreData

vali_data

06聚类算法Kmeans

聚类算法与Kmeans-checkpoint

聚类算法与Kmeans

聚类算法与Kmeans代码

聚类算法KMeans EDU version

07支撑向量机上

SVM1-checkpoint

Record

SVM (上) full version

SVM (上) full version

SVM1

08支撑向量机下

SVM 2 – 理论部分源码-checkpoint

Cityclimate

cityll

samplecity

SVM (下) – 源码

SVM (下) full version

SVM (下) full version

SVM 2 – 事例部分源码

SVM 2 – 理论部分源码

SVM数据

weather

weatherAUS5000

09回归大家族：线性回归，岭回归，Lasso与多项式回归

线性回归 – 代码

线性回归 课件 + 代码

线性回归大家族 full version

010朴素贝叶斯

010朴素贝叶斯

朴素贝叶斯 full version

Naive Bayes源码

011XGBoost

Untitled-checkpoint

xgboost code-checkpoint

xgboost 代码 + 课件

xgboost code

XGBoost full version

参考书1

参考书2

参考书3

开端机器学习之前：装备开发环境