sklearn 维度问题“找到暗淡 3 的数组。预期的估计器 <= 2”

Question

我正在尝试使用 KNN 将 .wav 文件正确分类为两组，组 0 和组 1。

我提取数据、创建模型、拟合模型，但是当我尝试使用 .predict() 方法时，出现以下错误：

Traceback (most recent call last):   
File "/..../....../KNN.py", line 20, in <module>
    classifier.fit(X_train, y_train)   
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/sklearn/neighbors/base.py", line 761, in fit
    X, y = check_X_y(X, y, "csr", multi_output=True)   
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/sklearn/utils/validation.py", line 521, in check_X_y
    ensure_min_features, warn_on_dtype, estimator)   
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/sklearn/utils/validation.py", line 405, in check_array
    % (array.ndim, estimator_name)) 
ValueError: Found array with dim 3. Estimator expected <= 2.

我发现这两个描述类似问题的 stackoverflow 帖子：

sklearn Logistic Regression "ValueError: Found array with dim 3. Estimator expected <= 2."

Error: Found array with dim 3. Estimator expected <= 2

如果我错了，请纠正我，但 scikit-learn 似乎只能接受二维数据。

我的训练数据有形状 (3240, 20, 5255) 其中包括：

• 此数据集中的 3240 个 .wav 文件（这是训练数据的索引 0） 对于
• 对于 每个 .wav 文件，有一个 (20, 5255) numpy 数组表示 MFCC 系数（MFCC 系数尝试以数字方式表示声音）。

我的测试数据的形状为 (3240,) #category 为 0 或 1

我可以使用什么代码来处理我的训练和测试数据，以将其转换为可供 scikit-learn 使用的形式？还有，从3维降到2维怎么保证数据不丢失？

Answer 1

确实，sklearn 仅适用于 2D 数据。

你可以尝试做什么：

• 只需在训练数据上使用np.reshape 将其转换为形状(3240, 20*5255)。它将保留所有原始信息。但 sklearn 将无法利用此数据中的隐式结构（例如，特征 1、21、41 等是同一变量的不同版本）。
• 在原始数据上构建卷积神经网络（例如使用 tensorflow+Keras 堆栈）。 CNN 专门设计用于处理此类多维数据并利用其结构。但他们有很多超参数需要调整。
• 对重整为 (3240, 20*5255) 的数据使用降维（例如 PCA）。它试图保留尽可能多的信息，同时仍然保持较低的特征数量。
• 使用手动特征工程从数据结构中提取特定信息（例如，沿每个维度的描述性统计），并根据这些特征训练您的模型。

如果您有更多数据（例如 10 万个示例），第一种方法可能效果最好。在您的情况下（3K 示例和 10K 特征），您需要对模型进行大量正则化以避免过度拟合。