ByteCat

特征工程之特征衍生。

特征工程之数据预处理。

特征工程是一项特殊的工程活动，其目的是最大限度地从原始数据中提取特征以供算法和模型使用。

在机器学习任务中，我们经常会遇到这种困扰：数据中存在类别标签不平衡的问题。

在机器学习预测任务中，我们需要对模型泛化误差进行评估，选择最优模型。如果我们把所有数据都用来训练模型的话，建立的模型自然是最契合这些数据的，测试表现也好。但换了其它数据集测试这个模型效果可能就没那么好了。为了防止过拟合，就需要将数据集分成训练集、验证集、测试集。

有时候需要一些特定分布的数据，这时候可以采用Sklearn提供的数据生成方法。

Sklearn自带多个数据集可供快速开始算法实验，这些数据集都可以通过sklearn.datasets.load_的方式调取。

Sklearn是python用于数据挖掘以及机器学习的利器，但是其功能庞杂，初学者很难理清脉络，快速学习其应用精髓。而CRISP-DM（跨行业数据挖掘标准流程）是一套受业界普遍认可、使用范围广的数据挖掘最佳实践方法论，有助于帮助理解Sklearn在数据挖掘/机器学习各个环节的功能实现。

Sklearn是利用python进行机器学习常用的第三方库，这个库对一些常用的机器学习方法进行了封装，这样在进行机器学习时只需调用Sklearn里的模块就可以完成大多数机器学习任务。

基于Node类的决策树构建方法。