我有一个包含一列ID的数据框，所有其他列都是我想要计算z分数的数值。这是它的一个小节：
ID Age BMI Risk Factor
PT 6 48 19.3 4
PT 8 43 20.9 NaN
PT 2 39 18.1 3
PT 9 41 19.5 NaN
我的一些列包含NaN值，我不想将其包括在z分数计算中，因此我打算使用针对此问题的解决方案：how to zscore normalize pandas column with nans?
df['zscore'] = (df.a - df.a.mean())/df.a.std(ddof=0)
我有兴趣将此解决方案应用于除ID列以外的所有列，以生成新的数据框，我可以使用
将其另存为Excel文件df2.to_excel("Z-Scores.xlsx")
所以基本上;如何计算每列的z分数（忽略NaN值）并将所有内容推送到新的数据框中？
SIDENOTE：pandas中有一个名为＆＃34; indexing＆＃34;这让我很害怕，因为我不太了解它。如果索引是解决此问题的关键部分，请愚蠢地解释索引。
答案 0 :(得分：52)
从列中构建列表并删除您不想计算Z得分的列：
In [66]:
cols = list(df.columns)
cols.remove('ID')
df[cols]
Out[66]:
Age BMI Risk Factor
0 6 48 19.3 4
1 8 43 20.9 NaN
2 2 39 18.1 3
3 9 41 19.5 NaN
In [68]:
# now iterate over the remaining columns and create a new zscore column
for col in cols:
col_zscore = col + '_zscore'
df[col_zscore] = (df[col] - df[col].mean())/df[col].std(ddof=0)
df
Out[68]:
ID Age BMI Risk Factor Age_zscore BMI_zscore Risk_zscore \
0 PT 6 48 19.3 4 -0.093250 1.569614 -0.150946
1 PT 8 43 20.9 NaN 0.652753 0.074744 1.459148
2 PT 2 39 18.1 3 -1.585258 -1.121153 -1.358517
3 PT 9 41 19.5 NaN 1.025755 -0.523205 0.050315
Factor_zscore
0 1
1 NaN
2 -1
3 NaN
答案 1 :(得分：34)
使用Scipy's zscore功能：
df = pd.DataFrame(np.random.randint(100, 200, size=(5, 3)), columns=['A', 'B', 'C'])
df
| | A | B | C |
|---:|----:|----:|----:|
| 0 | 163 | 163 | 159 |
| 1 | 120 | 153 | 181 |
| 2 | 130 | 199 | 108 |
| 3 | 108 | 188 | 157 |
| 4 | 109 | 171 | 119 |
from scipy.stats import zscore
df.apply(zscore)
| | A | B | C |
|---:|----------:|----------:|----------:|
| 0 | 1.83447 | -0.708023 | 0.523362 |
| 1 | -0.297482 | -1.30804 | 1.3342 |
| 2 | 0.198321 | 1.45205 | -1.35632 |
| 3 | -0.892446 | 0.792025 | 0.449649 |
| 4 | -0.842866 | -0.228007 | -0.950897 |
如果数据框的所有列都不是数字，那么您可以使用select_dtypes函数将Z-score功能仅应用于数字列：
# Note that `select_dtypes` returns a data frame. We are selecting only the columns
numeric_cols = df.select_dtypes(include=[np.number]).columns
df[numeric_cols].apply(zscore)
| | A | B | C |
|---:|----------:|----------:|----------:|
| 0 | 1.83447 | -0.708023 | 0.523362 |
| 1 | -0.297482 | -1.30804 | 1.3342 |
| 2 | 0.198321 | 1.45205 | -1.35632 |
| 3 | -0.892446 | 0.792025 | 0.449649 |
| 4 | -0.842866 | -0.228007 | -0.950897 |
答案 2 :(得分：6)
如果要计算所有列的zscore，可以使用以下内容：
df_zscore = (df - df.mean())/df.std()
答案 3 :(得分：3)
几乎是单线解决方案：
df2 = (df.ix[:,1:] - df.ix[:,1:].mean()) / df.ix[:,1:].std()
df2['ID'] = df['ID']
答案 4 :(得分：3)
以下是使用自定义功能获取Zscore的其他方法：
In [6]: import pandas as pd; import numpy as np
In [7]: np.random.seed(0) # Fixes the random seed
In [8]: df = pd.DataFrame(np.random.randn(5,3), columns=["randomA", "randomB","randomC"])
In [9]: df # watch output of dataframe
Out[9]:
randomA randomB randomC
0 1.764052 0.400157 0.978738
1 2.240893 1.867558 -0.977278
2 0.950088 -0.151357 -0.103219
3 0.410599 0.144044 1.454274
4 0.761038 0.121675 0.443863
## Create custom function to compute Zscore
In [10]: def z_score(df):
....: df.columns = [x + "_zscore" for x in df.columns.tolist()]
....: return ((df - df.mean())/df.std(ddof=0))
....:
## make sure you filter or select columns of interest before passing dataframe to function
In [11]: z_score(df) # compute Zscore
Out[11]:
randomA_zscore randomB_zscore randomC_zscore
0 0.798350 -0.106335 0.731041
1 1.505002 1.939828 -1.577295
2 -0.407899 -0.875374 -0.545799
3 -1.207392 -0.463464 1.292230
4 -0.688061 -0.494655 0.099824
In [12]: from scipy.stats import zscore
In [13]: df.apply(zscore) # (Credit: Manuel)
Out[13]:
randomA randomB randomC
0 0.798350 -0.106335 0.731041
1 1.505002 1.939828 -1.577295
2 -0.407899 -0.875374 -0.545799
3 -1.207392 -0.463464 1.292230
4 -0.688061 -0.494655 0.099824
答案 5 :(得分：2)
对于Z得分，我们可以坚持使用文档，而不是使用“应用”功能
df_zscore = scipy.stats.zscore(cols as array, axis=1)
答案 6 :(得分：1)
当我们处理时间序列时，计算z分数（或异常 - 不是同一个东西，但你可以轻松地调整这个代码）有点复杂。例如，您每周测量10年的温度数据。要计算整个时间序列的z分数，您必须知道一年中每一天的均值和标准差。所以，让我们开始吧：
假设你有一个pandas DataFrame。首先，您需要一个DateTime索引。如果你还没有，但幸运的是你有一个包含日期的列，只需将它作为你的索引。熊猫会试着猜测日期格式。这里的目标是拥有DateTimeIndex。您可以尝试查看：
type(df.index)
如果你没有，请让它成功。
df.index = pd.DatetimeIndex(df[datecolumn])
df = df.drop(datecolumn,axis=1)
下一步是计算每组天数的平均值和标准差。为此，我们使用groupby方法。
mean = pd.groupby(df,by=[df.index.dayofyear]).aggregate(np.nanmean)
std = pd.groupby(df,by=[df.index.dayofyear]).aggregate(np.nanstd)
最后，我们遍历所有日期，执行计算（value - mean）/ stddev;然而，如上所述，对于时间序列而言，这并不是那么简单。
df2 = df.copy() #keep a copy for future comparisons
for y in np.unique(df.index.year):
for d in np.unique(df.index.dayofyear):
df2[(df.index.year==y) & (df.index.dayofyear==d)] = (df[(df.index.year==y) & (df.index.dayofyear==d)]- mean.ix[d])/std.ix[d]
df2.index.name = 'date' #this is just to look nicer
df2 #this is your z-score dataset.
for循环中的逻辑是：对于给定的年份，我们必须将每年的日期与其平均值和stdev匹配。我们在你的时间序列中运行这些年。
答案 7 :(得分：0)
要快速计算整列的 z 得分，请执行以下操作：
from scipy.stats import zscore
import pandas as pd
df = pd.DataFrame({'num_1': [1,2,3,4,5,6,7,8,9,3,4,6,5,7,3,2,9]})
df['num_1_zscore'] = zscore(df['num_1'])
display(df)