机器学习Tips：关于Scikit-Learn的 10 个小秘密

写在前面

Scikit-learn是使用最广泛的Python机器学习库之一。它有标准化和简单的接口，用于数据预处理和模型训练、优化以及评估。

这个项目最初是由David Cournapeau 开发的Google Summer of Code 项目，并于2010年首次公开发布。自创建以来，该库已经发展成为一个丰富的生态系统，用于开发机器学习模型。随着时间的推移，该项目开发了许多方便的功能，以增强其易用性。在本文中，我将介绍你可能不知道的10个关于Scikit-learn最有用的特性。

1. 内置数据集

Scikit-learn API内置了各种toy和real-world数据集^[1]。这些可以便捷地通过一行代码访问，如果你正在学习或只是想快速尝试新功能，这会非常有用。

你还可以使用make_regression()、make_blobs()和make_classification()生成合成数据集。所有加载实用程序都提供了返回已拆分为X（特征）和y（目标）的数据选项，以便它们可以直接用于训练模型。

2. 获取公开数据集

如果你想直接通过Scikit-learn访问更多的公共可用数据集，请了解，有一个方便的函数datasets.fetch_openml，可以让您直接从openml.org网站^[2]获取数据。这个网站包含超过21000个不同的数据集，可以用于机器学习项目。

3. 内置分类器来训练baseline

在为项目开发机器学习模型时，首先创建一个baseline模型是非常有必要的。这个模型在本质上应该是一个“dummy”模型，比如一个总是预测最频繁出现的类的模型。这就提供了一个基准，用来对你的“智能”模型进行基准测试，这样你就可以确保它的性能比随机结果更好。

Scikit learn包括用于分类任务的DummyClassifier() 和用于基于回归问题的 DummyRegressor()。

4. 内置绘图api

Scikit learn有一个内置的绘图API，允许你在不导入任何其他库的情况下可视化模型性能。包括以下绘图：部分相关图、混淆矩阵、精确召回曲线和ROC曲线。

5. 内置特征选择方法

提高模型性能的一种技术是只使用最好的特征集或通过删除冗余特征来训练模型。这个过程称为特征选择。

Scikit learn有许多函数来执行特征选择。一个示例为 SelectPercentile()，该方法根据所选的统计方法选择性能最好的X百分位特征进行评分。

6. 机器学习pipeline

除了为机器学习提供广泛的算法外，Scikit learn还具有一系列用于「预处理」和「转换数据」的功能。为了促进机器学习工作流程的再现性和简单性，Scikit learn创建了管道（pipeline），允许将大量预处理步骤与模型训练阶段链接在一起。

管道将工作流中的所有步骤存储为单个实体，可以通过「fit」和「predict」方法调用该实体。在管道对象上调用fit方法时，预处理步骤和模型训练将自动执行。

7. ColumnTransformer

在许多数据集中，你将拥有不同类型的特征，需要应用不同的预处理步骤。例如，可能有分类数据和连续数据的混合，你可能希望通过one-hot编码将分类数据转换为数字，并缩放数字变量。

Scikit-learn管道有一个名为ColumnTransformer的函数，它允许你通过索引或指定列名来轻松指定要对哪些列应用最适当的预处理。

8. 管道的HTML形式

管道通常会变得非常复杂，尤其是在处理真实世界的数据时。因此，scikit-learn提供了一种方法来输出管道中步骤的HTML图表^[3]，非常方便。

9. 可视化 树模型

plot_tree() 函数允许你创建决策树模型中的步骤图。

10. 丰富的第三方扩展

许多第三方库可以更好地扩展scikit-learn的特性。举个栗子，category-encoders库，它为分类特性提供了更大范围的预处理方法，以及ELI5包以实现更大的模型可解释性。这两个包也可以直接在Scikit-learn管道中使用。

本文参考资料