我正在学习不同的方法，将分类变量转换为机器学习分类器的数字。我遇到了pd.get_dummies方法和sklearn.preprocessing.OneHotEncoder()，我想看看它们在性能和使用方面有何不同。
我找到了关于如何在https://xgdgsc.wordpress.com/2015/03/20/note-on-using-onehotencoder-in-scikit-learn-to-work-on-categorical-features/上使用OneHotEnocder()的教程，因为sklearn文档对此功能没有太大帮助。我有一种感觉，我没有正确地做到这一点......但是
有些人可以解释使用pd.dummies优于sklearn.preprocessing.OneHotEncoder()的优缺点，反之亦然吗？我知道OneHotEncoder()为您提供稀疏矩阵但不是我不确定它是如何使用的，以及与pandas方法相比有什么好处。我用它效率不高吗？
import pandas as pd
import numpy as np
from sklearn.datasets import load_iris
sns.set()
%matplotlib inline
#Iris Plot
iris = load_iris()
n_samples, m_features = iris.data.shape
#Load Data
X, y = iris.data, iris.target
D_target_dummy = dict(zip(np.arange(iris.target_names.shape[0]), iris.target_names))
DF_data = pd.DataFrame(X,columns=iris.feature_names)
DF_data["target"] = pd.Series(y).map(D_target_dummy)
#sepal length (cm) sepal width (cm) petal length (cm) petal width (cm) \
#0 5.1 3.5 1.4 0.2
#1 4.9 3.0 1.4 0.2
#2 4.7 3.2 1.3 0.2
#3 4.6 3.1 1.5 0.2
#4 5.0 3.6 1.4 0.2
#5 5.4 3.9 1.7 0.4
DF_dummies = pd.get_dummies(DF_data["target"])
#setosa versicolor virginica
#0 1 0 0
#1 1 0 0
#2 1 0 0
#3 1 0 0
#4 1 0 0
#5 1 0 0
from sklearn.preprocessing import OneHotEncoder, LabelEncoder
def f1(DF_data):
Enc_ohe, Enc_label = OneHotEncoder(), LabelEncoder()
DF_data["Dummies"] = Enc_label.fit_transform(DF_data["target"])
DF_dummies2 = pd.DataFrame(Enc_ohe.fit_transform(DF_data[["Dummies"]]).todense(), columns = Enc_label.classes_)
return(DF_dummies2)
%timeit pd.get_dummies(DF_data["target"])
#1000 loops, best of 3: 777 µs per loop
%timeit f1(DF_data)
#100 loops, best of 3: 2.91 ms per loop
答案 0 :(得分：40)
OneHotEncoder无法直接处理字符串值。如果你的名义特征是字符串，那么你需要先将它们映射成整数。
pandas.get_dummies恰恰相反。默认情况下，除非指定了列，否则它仅将字符串列转换为单热表示。
答案 1 :(得分：9)
对于机器学习，您几乎肯定要使用sklearn.OneHotEncoder。对于其他任务（例如简单分析），您可能可以使用pd.get_dummies，这要多一些方便。
请注意，sklearn.OneHotEncoder已更新为最新版本，因此它接受字符串作为分类变量和整数。
问题的关键在于sklearn编码器创建了一个功能，该功能持久并且可以然后应用于使用相同类别变量且结果一致的新数据集。
from sklearn.preprocessing import OneHotEncoder
# Create the encoder.
encoder = OneHotEncoder(handle_unknown="ignore")
encoder.fit(X_train) # Assume for simplicity all features are categorical.
# Apply the encoder.
X_train = encoder.transform(X_train)
X_test = encoder.transform(X_test)
请注意如何将通过X_train创建的相同编码器应用于新数据集X_test。
请考虑一下，如果X_test的变量之一包含的级别与X_train不同，将会发生什么。例如，假设X_train["color"]仅包含"red"和"green"，但是除了这些X_test["color"]有时还包含"blue"。
如果我们使用pd.get_dummies，则X_test将以"color_blue"没有的另外一个X_train列结尾，并且不一致可能会在以后破坏我们的代码，尤其是如果我们要向X_test训练的sklearn模型提供X_train。
如果我们想在生产环境中像这样处理数据，一次只收到一个示例，那么pd.get_dummies就没用了。
另一方面，使用sklearn.OneHotEncoder，一旦创建了编码器，我们就可以重复使用它来每次产生相同的输出，并且仅包含"red"和"green"的列。并且我们可以显式控制遇到新级别"blue"时发生的情况：如果我们认为这是不可能的，则可以告诉它使用handle_unknown="error"引发错误；否则我们可以告诉它继续，只需使用handle_unknown="ignore"将红色和绿色列设置为0。
答案 2 :(得分：1)
为什么不只是缓存列或将列另存为结果get_dummies中的变量col_list，然后使用pd.reindex来对齐火车与测试数据集。...例如：
df = pd.get_dummies(data)
col_list = df.columns.tolist()
new_df = pd.get_dummies(new_data)
new_df = new_df.reindex(columns=col_list).fillna(0.00)
答案 3 :(得分：0)
我真的很喜欢卡尔的回答，并对其进行了投票。我将稍微扩展一下Carl的示例，以便希望更多的人欣赏pd.get_dummies可以处理未知情况。下面的两个示例显示pd.get_dummies在处理OHE方面可以完成相同的任务。
# data is from @dzieciou's comment above
>>> data =pd.DataFrame(pd.Series(['good','bad','worst','good', 'good', 'bad']))
# new_data has two values that data does not have.
>>> new_data= pd.DataFrame(
pd.Series(['good','bad','worst','good', 'good', 'bad','excellent', 'perfect']))
>>> df = pd.get_dummies(data)
>>> col_list = df.columns.tolist()
>>> print(df)
0_bad 0_good 0_worst
0 0 1 0
1 1 0 0
2 0 0 1
3 0 1 0
4 0 1 0
5 1 0 0
6 0 0 0
7 0 0 0
>>> new_df = pd.get_dummies(new_data)
# handle unknow by using .reindex and .fillna()
>>> new_df = new_df.reindex(columns=col_list).fillna(0.00)
>>> print(new_df)
# 0_bad 0_good 0_worst
# 0 0 1 0
# 1 1 0 0
# 2 0 0 1
# 3 0 1 0
# 4 0 1 0
# 5 1 0 0
# 6 0 0 0
# 7 0 0 0
>>> encoder = OneHotEncoder(handle_unknown="ignore", sparse=False)
>>> encoder.fit(data)
>>> encoder.transform(new_data)
# array([[0., 1., 0.],
# [1., 0., 0.],
# [0., 0., 1.],
# [0., 1., 0.],
# [0., 1., 0.],
# [1., 0., 0.],
# [0., 0., 0.],
# [0., 0., 0.]])