Sklearn 基础概念 | 菜鸟教程

在使用 Sklearn 进行机器学习时，需要了解一些基础的概念。
Sklearn 提供了一种统一且简洁的 API 来实现各种机器学习算法和流程，能够帮助我们快速实现各种机器学习任务。
接下来我们从以下几个概念展开说明：数据表示、模型类型、预处理方法、评估指标、模型调优等。
数据集是 Sklearn 最基本的概念之一。
机器学习的核心任务是从数据中学习模式，数据的表示方式至关重要。
在 scikit-learn 中，数据通常通过两个主要的对象来表示： 特征矩阵 和 目标向量。
特征矩阵（Feature Matrix）：每一行代表一个数据样本，每一列代表一个特征（即输入变量）。它是一个二维的数组或矩阵，通常使用 NumPy 数组或 pandas DataFrame 来存储。
假设我们有 3 个样本，每个样本有 2 个特征。
目标向量（Target Vector）：它表示每个样本的目标（即输出标签），通常是一个一维数组。
例如，在分类任务中，目标是每个样本的类别标签。
特征（Features）：是数据集中用于训练模型的输入变量。在上面的例子中，X 是特征矩阵，包含了所有的输入变量。
标签（Labels）：是机器学习模型的目标输出。在监督学习中，标签是我们希望模型预测的结果。在上面的例子中，y 是标签或目标向量，包含了每个样本的类别。
在实际应用中，通常需要将数据集分割成训练集和测试集。
scikit-learn 提供了一个方便的函数 train_test_split() 来实现这一点：
在 scikit-learn 中，机器学习模型大致分为两大类：监督学习 和 无监督学习。
监督学习（Supervised Learning）：在监督学习中，模型在训练时会利用带标签的数据进行学习，这些标签是我们希望模型预测的结果。
无监督学习（Unsupervised Learning）：无监督学习是指没有标签数据，模型仅通过输入数据本身的特征进行学习。
在使用 scikit-learn 进行机器学习之前，通常需要对数据进行预处理，这包括以下几项常见任务：
1、标准化（Standardization）：特征的尺度统一，使得每个特征都具有零均值和单位方差。
2、归一化（Normalization）：将特征的值缩放到一个固定范围（通常是 0 到 1）。
3、类别变量编码：将类别型数据转换为数值型数据（如 one-hot 编码）。
在训练机器学习模型之后，必须评估其性能以确保其泛化能力。
scikit-learn 提供了一些评估模型性能的工具。
交叉验证是一种常见的模型评估方法，尤其是在数据量有限的情况下。
通过将数据分成多个子集，每次使用一个子集作为验证集，其余作为训练集，重复多次训练和评估模型，最终计算模型的平均性能。
网格搜索是一种常用的超参数调优方法，它通过遍历所有可能的参数组合来寻找最佳的超参数组合。
随机搜索是一种通过随机选择超参数的组合来搜索最优超参数的方法，它比网格搜索效率高。