Question

我的df如下：

    CHROM     POS   SRR4216489              SRR4216675                  SRR4216480
0     1  127536     ./.                     ./.                         ./. 
1     1  127573     ./.                     0/1:0,5:5:0:112,1,10        ./.
2     1  135032     ./.                     1/1:13,0:13:3240:0,30,361   0/0:13,0:13:3240:0,30,361
3     1  135208     ./.                     0/0:5,0:5:3240:0,20,160     0/1:5,0:5:3240:0,20,160
4     1  138558     1/1:5,0:5:3240:0,29,177 0/0:0,5:5:0:112,1,10        ./.

我想根据特定条件替换示例列的内容。样本列为SRR4216489，SRR4216675，SRR4216480。我想替换'./。' 0.5，任何0/0开头的任何东西，0.0和0/1或1/1的任何东西1.0。我很欣赏这涉及几个过程，其中大多数我可以独立完成，但我不知道将它们联系在一起的语法。例如，我可以为样本SRR4216480执行此操作：

df['SRR4216675'][df.SRR4216675 == './.'] = 0.5

这很有效，courtesy of here，但我不确定如何同时将它应用于所有样本列。我想通过以下方式使用循环：

sample_cols = df.columns[2:]
for s in sample_cols:
    df[s][df.s =='./.'] = 0.5

但这首先看起来并不是非常矛盾的，而且它也不接受'df.s'列表中的字符串。

下一个挑战是如何解析填充样本列其他部分的变量字符串。我尝试过使用split函数：

df=df['SRR4216675'][df.SRR4216675.split(':') == '0/0' ] = 0.0

但我明白了：

TypeError: 'float' object is not subscriptable

我确信解决这个问题的一个好方法是使用像this这样的lambda但是对pandas和lambdas不熟悉我发现它很棘手，我到了这里：

col=df['SRR4216675'][df.SRR4216675.apply(lambda x: x.split(':')[0])]

看起来几乎就在那里，但需要进一步处理来替换值，而且看起来它有2列，不会让我重新整合到现有的df中：

SRR4216675
./.    NaN
0/1    NaN
1/1    NaN
0/0    NaN
0/0    NaN

df['SRR4216675'] = col

ValueError: cannot reindex from a duplicate axis

我很欣赏这是1中的几个问题，但我是熊猫的新手，并且非常希望能够掌握它。我可以使用基本列表和循环使用pythons标准列表，迭代和字符串解析函数来解决这些问题，但是在规模上这将非常慢，因为我的全尺寸df是数百万行，包含500多个样本列。

Answer 1

您可以使用df.apply并定义一个函数来完成此操作，如下所示：

In [10]: cols = ('SRR4216675', 'SRR4216480', 'SRR4216489')

In [11]: def replace_vals(row):
    ...:     for col in cols:
    ...:         if row[col] == './.':
    ...:             row[col] = 0.5
    ...:         elif row[col].startswith('0/0'):
    ...:             row[col] = 0
    ...:         elif row[col].startswith('0/1') or row[col].startswith('1/1'):
    ...:             row[col] = 1
    ...:     return row
    ...:
    ...:

In [12]: df.apply(replace_vals, axis=1)
Out[12]:
   CHROM     POS  SRR4216480  SRR4216489  SRR4216675
0      1  127536         0.5         0.5         0.5
1      1  127573         0.5         0.5         1.0
2      1  135032         0.0         0.5         1.0
3      1  135208         1.0         0.5         0.0
4      1  138558         0.5         1.0         0.0

这是一种更快的方法：

首先，让我们创建一个更大的数据框，以便我们可以有意义地测量时间差异，并让我们导入一个计时器，以便我们可以测量。

In [70]: from timeit import default_timer as timer

In [71]: long_df = pd.DataFrame()

In [72]: for i in range(10000):
    ...:     long_df = pd.concat([long_df, df])

使用我们上面定义的函数，我们得到：

In [76]: start = timer(); long_df.apply(replace_vals, axis=1); end = timer()

In [77]: end - start
Out[77]: 8.662535898998613

现在，我们定义一个新函数（为了便于计时）我们在列上循环并应用与上面相同的替换逻辑，除非我们通过在每列上使用向量化str.startswith方法来实现：

In [78]: def modify_vectorized():
    ...:     start = timer()
    ...:     for col in cols:
    ...:         long_df.loc[long_df[col] == './.', col] = 0.5
    ...:         long_df.loc[long_df[col].str.startswith('0/0', na=False), col] = 0
    ...:         long_df.loc[long_df[col].str.startswith('0/1', na=False), col] = 1
    ...:         long_df.loc[long_df[col].str.startswith('1/1', na=False), col] = 1
    ...:     end = timer()
    ...:     return end - start

我们重新创建大型数据帧，然后在其上运行新功能，获得显着的加速：

In [79]: long_df = pd.DataFrame()

In [80]: for i in range(10000):
    ...:     long_df = pd.concat([long_df, df])
    ...:

In [81]: time_elapsed = modify_vectorized()

In [82]: time_elapsed
Out[82]: 0.44004046998452395

结果数据框如下所示：

In [83]: long_df
Out[83]:
    CHROM     POS SRR4216480 SRR4216489 SRR4216675
0       1  127536        0.5        0.5        0.5
1       1  127573        0.5        0.5          1
2       1  135032          0        0.5          1
3       1  135208          1        0.5          0
4       1  138558        0.5          1          0
0       1  127536        0.5        0.5        0.5
1       1  127573        0.5        0.5          1
2       1  135032          0        0.5          1
3       1  135208          1        0.5          0
4       1  138558        0.5          1          0
0       1  127536        0.5        0.5        0.5
1       1  127573        0.5        0.5          1
2       1  135032          0        0.5          1
3       1  135208          1        0.5          0
4       1  138558        0.5          1          0
0       1  127536        0.5        0.5        0.5
...

对于多个条件，pandas一次替换多列的内容

1 个答案: