ByteCat

分类评估需要掌握的指标。

聚类评估可以分为有样本聚类标签的评估和无样本聚类标签的评估两种。

Hyperopt是一个非常受欢迎的调参工具包，可以帮我们找到最优参数。

Optuna是一种自动超参优化框架，可以帮我们找到最优参数。

通常情况下，常用的超参数调参的方法有：网格搜索，随机搜索与贝叶斯优化。

孤立森林(Isolation Forest)算法是一种基于树集成的异常检测方法，其核心思想是——异常点是容易被孤立的离群点。

CatBoost也是在XGBoost基础上做的优化，采用了对称树结构，其决策树都是完全二叉树。

LightGBM在XGBoost基础上做了进一步的优化，采用了按叶子生长（leaf-wise）的构建策略。

XGBoost是原始版本GBDT模型的改进，它的全称是Extreme Gradient Boosting。

Stacking（堆叠法）就是当用初始训练数据学习出若干个基学习器后，将这几个学习器的预测结果作为新的训练集，来学习一个新的学习器。