更改Pandas中列的数据类型

Question

我想将表格（表示为列表列表）转换为Pandas DataFrame。作为一个极其简化的例子：

a = [['a', '1.2', '4.2'], ['b', '70', '0.03'], ['x', '5', '0']]
df = pd.DataFrame(a)

将列转换为适当类型的最佳方法是什么，在这种情况下，将第2列和第3列转换为浮点数？有没有办法在转换为DataFrame时指定类型？或者最好先创建DataFrame，然后循环遍历列以更改每列的类型？理想情况下，我想以动态方式执行此操作，因为可能有数百列，我不想确切地指定哪些列属于哪种类型。我可以保证的是，每列包含相同类型的值。

Answer 1

您有三个主要选项来转换pandas中的类型：

1. to_numeric() - 提供将非数字类型（例如字符串）安全地转换为合适的数字类型的功能。 （另请参阅to_datetime()和to_timedelta()。）

2. astype() - 将（几乎）任何类型转换为（几乎）任何其他类型（即使它不一定是明智的）。还允许您转换为categorial类型（非常有用）。

3. infer_objects() - 一种实用工具方法，如果可能，将包含Python对象的对象列转换为pandas类型。

继续阅读以获取有关这些方法的更详细解释和用法。

---

1。 to_numeric()

将DataFrame的一个或多个列转换为数值的最佳方法是使用pandas.to_numeric()。

此函数将尝试根据需要将非数字对象（如字符串）更改为整数或浮点数。

基本用法

to_numeric()的输入是DataFrame的系列或单个列。

>>> s = pd.Series(["8", 6, "7.5", 3, "0.9"]) # mixed string and numeric values
>>> s
0      8
1      6
2    7.5
3      3
4    0.9
dtype: object

>>> pd.to_numeric(s) # convert everything to float values
0    8.0
1    6.0
2    7.5
3    3.0
4    0.9
dtype: float64

如您所见，将返回一个新系列。请记住将此输出分配给变量或列名称以继续使用它：

# convert Series
my_series = pd.to_numeric(my_series)

# convert column "a" of a DataFrame
df["a"] = pd.to_numeric(df["a"])

您还可以使用它通过apply()方法转换DataFrame的多个列：

# convert all columns of DataFrame
df = df.apply(pd.to_numeric) # convert all columns of DataFrame

# convert just columns "a" and "b"
df[["a", "b"]] = df[["a", "b"]].apply(pd.to_numeric)

只要你的价值观都可以转换，那可能就是你所需要的。

错误处理

但是，如果某些值无法转换为数字类型会怎样？

to_numeric()还会使用errors关键字参数，允许您强制非数字值为NaN，或者只是忽略包含这些值的列。

这是一个使用一系列字符串s的示例，其中包含对象dtype：

>>> s = pd.Series(['1', '2', '4.7', 'pandas', '10'])
>>> s
0         1
1         2
2       4.7
3    pandas
4        10
dtype: object

如果无法转换值，则默认行为是提升。在这种情况下，它无法应对字符串＆＃39; pandas＆＃39;：

>>> pd.to_numeric(s) # or pd.to_numeric(s, errors='raise')
ValueError: Unable to parse string

我们可能想要“熊猫”而不是失败。被认为是缺失/错误的数值。我们可以使用NaN关键字参数将无效值强制转换为errors：

>>> pd.to_numeric(s, errors='coerce')
0     1.0
1     2.0
2     4.7
3     NaN
4    10.0
dtype: float64

errors的第三个选项只是在遇到无效值时忽略该操作：

>>> pd.to_numeric(s, errors='ignore')
# the original Series is returned untouched

当您想要转换整个DataFrame时，最后一个选项特别有用，但我们不知道哪些列可以可靠地转换为数字类型。在这种情况下，只需写：

df.apply(pd.to_numeric, errors='ignore')

该函数将应用于DataFrame的每一列。可以转换为可以转换为数字类型的列，而不能（例如，它们包含非数字字符串或日期）的列将保持不变。

向下转换

默认情况下，使用to_numeric()进行转换会为您提供int64或float64 dtype（或您的平台原生的任何整数宽度）。

这通常是你想要的，但是如果你想保存一些内存并使用更紧凑的dtype，如float32或int8会怎样？

to_numeric()可让您选择向下转换为＆＃39;整数＆＃39;，＆＃39;签名＆＃39;，＆＃39; unsigned＆＃39;，＆＃39; float＆＃39 ;。以下是整数类型的简单序列s的示例：

>>> s = pd.Series([1, 2, -7])
>>> s
0    1
1    2
2   -7
dtype: int64

向下转换为＆＃39;整数＆＃39;使用可以保存值的最小整数：

>>> pd.to_numeric(s, downcast='integer')
0    1
1    2
2   -7
dtype: int8

向下转移到＆＃39;浮动＆＃39;同样选择一个小于正常浮动类型：

>>> pd.to_numeric(s, downcast='float')
0    1.0
1    2.0
2   -7.0
dtype: float32

---

2。 astype()

astype()方法可让您明确了解您希望DataFrame或Series具有的dtype。它非常通用，你可以尝试从一种类型转向另一种类型。

基本用法

只需选择一种类型：您可以使用NumPy dtype（例如np.int16），某些Python类型（例如bool）或pandas特定类型（例如分类dtype）。

在要转换的对象上调用方法，astype()会尝试为您转换它：

# convert all DataFrame columns to the int64 dtype
df = df.astype(int)

# convert column "a" to int64 dtype and "b" to complex type
df = df.astype({"a": int, "b": complex})

# convert Series to float16 type
s = s.astype(np.float16)

# convert Series to Python strings
s = s.astype(str)

# convert Series to categorical type - see docs for more details
s = s.astype('category')

注意我说过＆＃34;尝试＆＃34; - 如果astype()不知道如何转换Series或DataFrame中的值，则会引发错误。例如，如果您有NaN或inf值，则在尝试将其转换为整数时会出错。

从pandas 0.20.0开始，传递errors='ignore'可以抑制此错误。您的原始对象将不会受到影响。

小心

astype()功能强大，但有时会错误地转换价值＆＃34;。例如：

>>> s = pd.Series([1, 2, -7])
>>> s
0    1
1    2
2   -7
dtype: int64

这些是小整数，那么如何转换为无符号8位类型以节省内存？

>>> s.astype(np.uint8)
0      1
1      2
2    249
dtype: uint8

转换有效，但-7被包围成249（即2 ⁸ - 7）！

尝试使用pd.to_numeric(s, downcast='unsigned')进行向下转换可以帮助防止此错误。

---

3。 infer_objects()

Pandas版本0.21.0引入了方法infer_objects()，用于将具有对象数据类型的DataFrame列转换为更具体的类型（软转换）。

例如，这是一个具有两列对象类型的DataFrame。一个包含实际整数，另一个包含表示整数的字符串：

>>> df = pd.DataFrame({'a': [7, 1, 5], 'b': ['3','2','1']}, dtype='object')
>>> df.dtypes
a    object
b    object
dtype: object

使用infer_objects()，您可以更改列的类型＆＃39; a＆＃39;到int64：

>>> df = df.infer_objects()
>>> df.dtypes
a     int64
b    object
dtype: object

专栏＆＃39; b＆＃39;因为它的价值观是字符串而不是整数，所以一直被孤立。如果您想尝试强制将两列转换为整数类型，则可以使用df.astype(int)代替。

Answer 2

这个怎么样？

a = [['a', '1.2', '4.2'], ['b', '70', '0.03'], ['x', '5', '0']]
df = pd.DataFrame(a, columns=['one', 'two', 'three'])
df
Out[16]: 
  one  two three
0   a  1.2   4.2
1   b   70  0.03
2   x    5     0

df.dtypes
Out[17]: 
one      object
two      object
three    object

df[['two', 'three']] = df[['two', 'three']].astype(float)

df.dtypes
Out[19]: 
one       object
two      float64
three    float64

Answer 3

以下代码将更改列的数据类型。

df[['col.name1', 'col.name2'...]] = df[['col.name1', 'col.name2'..]].astype('data_type')

代替数据类型，你可以给出你的数据类型。你想要什么样的str，float，int等。

Answer 4

这是一个函数，它将DataFrame和列列表作为参数，并将列中的所有数据强制转换为数字。

# df is the DataFrame, and column_list is a list of columns as strings (e.g ["col1","col2","col3"])
# dependencies: pandas

def coerce_df_columns_to_numeric(df, column_list):
    df[column_list] = df[column_list].apply(pd.to_numeric, errors='coerce')

所以，举个例子：

import pandas as pd

def coerce_df_columns_to_numeric(df, column_list):
    df[column_list] = df[column_list].apply(pd.to_numeric, errors='coerce')

a = [['a', '1.2', '4.2'], ['b', '70', '0.03'], ['x', '5', '0']]
df = pd.DataFrame(a, columns=['col1','col2','col3'])

coerce_df_columns_to_numeric(df, ['col2','col3'])

Answer 5

熊猫> = 1.0

这是一张图表，总结了熊猫中一些最重要的转换。

到字符串的转换很简单.astype(str)，未在图中显示。

“硬”与“软”转换

请注意，本文中的“转换”既可以指将文本数据转换为实际数据类型（硬转换），也可以针对对象列中的数据推断更合适的数据类型（软转换）。为了说明不同之处，请查看

df = pd.DataFrame({'a': ['1', '2', '3'], 'b': [4, 5, 6]}, dtype=object)
df.dtypes                                                                  

a    object
b    object
dtype: object

# Actually converts string to numeric - hard conversion
df.apply(pd.to_numeric).dtypes                                             

a    int64
b    int64
dtype: object

# Infers better data types for object data - soft conversion
df.infer_objects().dtypes                                                  

a    object  # no change
b     int64
dtype: object

# Same as infer_objects, but converts to equivalent ExtensionType
df.convert_dtypes().dtypes                                                     

Answer 6

如何创建两个数据框，每个数据框的列数据类型不同，然后将它们一起添加？

d1 = pd.DataFrame(columns=[ 'float_column' ], dtype=float)
d1 = d1.append(pd.DataFrame(columns=[ 'string_column' ], dtype=str))

<强>结果

In[8}:  d1.dtypes
Out[8]: 
float_column     float64
string_column     object
dtype: object

创建数据框后，可以使用第1列中的浮点变量和第2列中的字符串（或所需的任何数据类型）填充它。

Answer 7

当我只需要指定特定的列并且想要明确时，我就使用了（按DOCS LOCATION）：

paste

因此，使用原始问题，但为其提供列名称...

library(sparklyr)
library(dplyr)

config <- spark_config()
sc <- spark_connect(master = "local", config = config)

df <- as.data.frame(cbind(c("1", "2", "3"), c("a", "b", "c")))
sdf <- sdf_copy_to(sc, df, overwrite = T)

sdf %>%
  mutate(concat = paste(V1, V2, sep = "-"))

Answer 8

从熊猫1.0.0开始，我们有了pandas.DataFrame.convert_dtypes。您甚至可以控制要转换的类型！

In [40]: df = pd.DataFrame(
    ...:     {
    ...:         "a": pd.Series([1, 2, 3], dtype=np.dtype("int32")),
    ...:         "b": pd.Series(["x", "y", "z"], dtype=np.dtype("O")),
    ...:         "c": pd.Series([True, False, np.nan], dtype=np.dtype("O")),
    ...:         "d": pd.Series(["h", "i", np.nan], dtype=np.dtype("O")),
    ...:         "e": pd.Series([10, np.nan, 20], dtype=np.dtype("float")),
    ...:         "f": pd.Series([np.nan, 100.5, 200], dtype=np.dtype("float")),
    ...:     }
    ...: )

In [41]: dff = df.copy()

In [42]: df 
Out[42]: 
   a  b      c    d     e      f
0  1  x   True    h  10.0    NaN
1  2  y  False    i   NaN  100.5
2  3  z    NaN  NaN  20.0  200.0

In [43]: df.dtypes
Out[43]: 
a      int32
b     object
c     object
d     object
e    float64
f    float64
dtype: object

In [44]: df = df.convert_dtypes()

In [45]: df.dtypes
Out[45]: 
a      Int32
b     string
c    boolean
d     string
e      Int64
f    float64
dtype: object

In [46]: dff = dff.convert_dtypes(convert_boolean = False)

In [47]: dff.dtypes
Out[47]: 
a      Int32
b     string
c     object
d     string
e      Int64
f    float64
dtype: object

Answer 9

df.info() gives us initial datatype of temp which is float64


 #   Column  Non-Null Count  Dtype  
---  ------  --------------  -----  
 0   date    132 non-null    object 
 1   temp    132 non-null    float64

 Now, use this code to change the datatype to int64:  df['temp'] = df['temp'].astype('int64')


 if you do df.info() again, you will see:
  #   Column  Non-Null Count  Dtype 
 ---  ------  --------------  ----- 
  0   date    132 non-null    object
  1   temp    132 non-null    int64 

 this shows you have successfully changed the datatype of column temp. Happy coding!

 

Answer 10

我以为我遇到了同样的问题，但实际上我有一些细微的差别，使问题更容易解决。对于其他正在看这个问题的人，值得检查输入列表的格式。就我而言，数字最初是浮动的，而不是问题中的字符串：

a = [['a', 1.2, 4.2], ['b', 70, 0.03], ['x', 5, 0]]

但是通过在创建数据框之前过多处理列表，我丢失了类型，所有内容都变成了字符串。

通过numpy数组创建数据框

df = pd.DataFrame(np.array(a))

df
Out[5]: 
   0    1     2
0  a  1.2   4.2
1  b   70  0.03
2  x    5     0

df[1].dtype
Out[7]: dtype('O')

提供与问题相同的数据帧，其中第1列和第2列中的条目被视为字符串。但是在做

df = pd.DataFrame(a)

df
Out[10]: 
   0     1     2
0  a   1.2  4.20
1  b  70.0  0.03
2  x   5.0  0.00

df[1].dtype
Out[11]: dtype('float64')

实际上给出了具有正确格式的列的数据框