堆叠分类器上的分类器数量是否必须等于我的训练/测试数据集的列数？

Question

我正在尝试解决二进制分类任务。训练数据集包含9个功能，在完成功能工程后，我最终拥有14个功能。我想使用堆叠分类器方法 通过使用4种不同的分类器来 mlxtend.classifier.StackingClassifier ，但是当尝试预测测试数据集时，我得到了错误： ValueError: query data dimension must match training data dimension

%%time
models=[KNeighborsClassifier(weights='distance'),
        GaussianNB(),SGDClassifier(loss='hinge'),XGBClassifier()]
calibrated_models=Calibrated_classifier(models,return_names=False)
meta=LogisticRegression()
stacker=StackingCVClassifier(classifiers=calibrated_models,meta_classifier=meta,use_probas=True).fit(X.values,y.values)

备注：在我的代码中，我刚刚编写了一个函数，该函数返回带有校准分类器的列表StackingCVClassifier，我已经检查了这没有引起错误

备注2：我已经尝试过从头开始执行堆叠器，但结果相同，所以我认为自己的堆叠器出了毛病

from sklearn.linear_model import LogisticRegression
def StackingClassifier(X,y,models,stacker=LogisticRegression(),return_data=True):
  names,ls=[],[]
  predictions=pd.DataFrame()
  for model in models:
    names.append(str(model)[:str(model).find('(')])

  for i,model in enumerate(models):
    model.fit(X,y)
    ls=model.predict_proba(X)[:,1]
    predictions[names[i]]=ls
  if return_data:
    return predictions
  else:
    return stacker.fit(predictions,y)

能否请您帮助我了解堆叠分类器的正确用法？

编辑： 这是我的校准分类器代码。此函数获取n个分类器的列表，并将sklearn fucntion CalibratedClassifierCV应用于每个分类器，并返回包含n个已校准分类器的列表。您可以选择返回为zip列表，因为此功能主要是与sklearn's VotingClassifier

一起使用的

def Calibrated_classifier(models,method='sigmoid',return_names=True):
  calibrated,names=[],[]
  for model in models:
    names.append(str(model)[:str(model).find('(')])

  for model in models:
    clf=CalibratedClassifierCV(base_estimator=model,method=method)
    calibrated.append(clf)
  if return_names:
    return zip(names,calibrated)
  else: 
    return calibrated

Answer 1

我已经尝试了将虹膜数据集用于您的代码。一切正常，我认为问题出在测试数据的维度上，而不是校准。

from sklearn.linear_model import LogisticRegression
from mlxtend.classifier import StackingCVClassifier
from sklearn import datasets
X, y = datasets.load_iris(return_X_y=True)


models=[KNeighborsClassifier(weights='distance'),
        SGDClassifier(loss='hinge')]
calibrated_models=Calibrated_classifier(models,return_names=False)
meta=LogisticRegression( multi_class='ovr')
stacker = StackingCVClassifier(classifiers=calibrated_models,
                               meta_classifier=meta,use_probas=True,cv=3).fit(X,y)

预测

stacker.predict([X[0]])
#array([0])