Question

这是怎么做到的？我正在使用Sklearn来训练SVM。我的班级不平衡。请注意，我的问题是多类，多标记，所以我使用的是OneVsRestClassifier：

mlb = MultiLabelBinarizer()
y = mlb.fit_transform(y_train)

clf = OneVsRestClassifier(svm.SVC(kernel='rbf'))
clf = clf.fit(x, y) 
pred = clf.predict(x_test)

我可以添加＆＃39; sample_weight＆＃39;某个地方的参数可以解释不平衡的类？

当我向svm添加class_weight dict时，我收到错误：

ValueError: Class label 2 not present

这是因为我使用mlb将我的标签转换为二进制。但是，如果我不转换标签，我会得到：

ValueError: You appear to be using a legacy multi-label data representation. Sequence of sequences are no longer supported; use a binary array or sparse matrix instead.

class_weight是一个dict，将类标签映射到权重：{1：1,2：1,3：3 ......}

以下是x和y的详细信息：

print(X[0])  
[ 0.76625633  0.63062721  0.01954162 ...,  1.1767817   0.249034    0.23544988]
print(type(X))
<type 'numpy.ndarray'>

print(y[0])
print(type(y))
[1, 2, 3, 4, 5, 6, 7]
<type 'numpy.ndarray'>

注意mlb = MultiLabelBinarizer（）; y = mlb.fit_transform（y_train）将y转换为二进制数组。

建议的答案产生错误：

ValueError: You appear to be using a legacy multi-label data representation. Sequence of sequences are no longer supported; use a binary array or sparse matrix instead.

因此，问题减少了将标签（np.array）转换为稀疏矩阵。

from scipy import sparse
y_sp = sparse.csr_matrix(y)

这会产生错误：

TypeError: no supported conversion for types: (dtype('O'),)

我将为此打开一个新查询。

Answer 1

您可以使用：

class_weight：{dict，'balanced'}，可选

为SVC将类i的参数C设置为class_weight[i]*C。如果没有给出，所有课程都应该有一个重量。 “平衡”模式使用y的值自动调整与输入数据中的类频率成反比的权重n_samples / (n_classes * np.bincount(y))

clf = OneVsRestClassifier(svm.SVC(kernel='rbf', class_weight='balanced'))

source

Answer 2

此代码适用于 class_weight 属性的＆nbsp;＆＃39; 值

>>> from sklearn.preprocessing import MultiLabelBinarizer
>>> from sklearn.svm import SVC
>>> from sklearn.multiclass import OneVsRestClassifier

>>> mlb = MultiLabelBinarizer()
>>> x = [[0,1,1,1],[1,0,0,1]]
>>> y = mlb.fit_transform([['sci-fi', 'thriller'], ['comedy']])

>>> print y
>>> print mlb.classes_
[[0 1 1]
 [1 0 0]]
['comedy' 'sci-fi' 'thriller']

>>> OneVsRestClassifier(SVC(random_state=0, class_weight='balanced')).fit(x, y).predict(x)
array([[0, 1, 1],
   [1, 0, 0]])

为多标记SVM指定权重以平衡类

2 个答案: