计算sklearn PCA的第一个主要组成部分

时间:2018-03-27 18:54:55

标签: pandas numpy scikit-learn pca

我有以下代码可以成功计算数据的最大主要成分:

lst = ['date', 'MA(1,9)', 'MA(1,12)', 'MA(2,9)', 'MA(2,12)', 'MA(3,9)', 'MA(3,12)', 'MOM(9)', 'MOM(12)', 'VOL(1,9)', 'VOL(1,12)', 'VOL(2,9)', 'VOL(2,12)', 'VOL(3,9)', 'VOL(3,12)']
df = pd.read_excel(filename, sheet_name='daily', header=0, names=lst)
df = df.set_index('date')
df = df.loc[start_date:end_date]
pca = PCA()
pca = pca.fit(df)
print(pca.components_)
#print(pca.explained_variance_[0])
df = pd.DataFrame(pca.transform(df), columns=['PCA%i' % i for i in range(14)], index=df.index)

有没有办法成功获得第一个主成分而无需自己计算? (sklearn是否有某种我无法找到的属性?)

我的数据:

            MA(1,9)  MA(1,12)  MA(2,9)  MA(2,12)  MA(3,9)  MA(3,12)  MOM(9)  \
date                                                                          
1990-06-08        1         1        1         1        1         1       1   
1990-06-11        1         1        1         1        1         1       1   
1990-06-12        1         1        1         1        1         1       1   
1990-06-13        1         1        1         1        1         1       1   
1990-06-14        1         1        1         1        1         1       1   

            MOM(12)  VOL(1,9)  VOL(1,12)  VOL(2,9)  VOL(2,12)  VOL(3,9)  \
date                                                                      
1990-06-08        1         1          0         1          1         1   
1990-06-11        1         1          1         1          1         1   
1990-06-12        1         0          0         1          1         1   
1990-06-13        1         0          0         1          1         1   
1990-06-14        1         0          0         1          1         1   

            VOL(3,12)  
date                   
1990-06-08          1  
1990-06-11          1  
1990-06-12          1  
1990-06-13          1  
1990-06-14          1  

输出:

                 PCA0      PCA1      PCA2      PCA3      PCA4      PCA5  \
date                                                                     
1990-06-08 -0.707212  0.834228  0.511333  0.104279 -0.055340 -0.117740   
1990-06-11 -0.685396  1.224009 -0.059560 -0.038864 -0.011676 -0.031021   
1990-06-12 -0.737770  0.445458  1.083377  0.237313 -0.075061  0.012465   
1990-06-13 -0.737770  0.445458  1.083377  0.237313 -0.075061  0.012465   
1990-06-14 -0.737770  0.445458  1.083377  0.237313 -0.075061  0.012465   
1990-06-15 -0.715954  0.835239  0.512485  0.094170 -0.031397  0.099184   
1990-06-18 -0.715954  0.835239  0.512485  0.094170 -0.031397  0.099184   
1990-06-19 -0.702743 -0.024860  0.185254 -0.976475 -0.028151  0.090701     
...              ...       ...       ...       ...       ...       ...    
2015-05-01 -0.636410 -0.440222 -1.139295 -0.229937  0.088941 -0.055738   
2015-05-04 -0.636410 -0.440222 -1.139295 -0.229937  0.088941 -0.055738   

                PCA6      PCA7      PCA8      PCA9     PCA10     PCA11  \
date                                                                     
1990-06-08 -0.050111  0.000652  0.062524  0.066524 -0.683963  0.097497   
1990-06-11 -0.053740  0.013313  0.008949 -0.006157  0.002628 -0.010517   
1990-06-12 -0.039659 -0.029781  0.009185 -0.026395 -0.006305 -0.019026   
1990-07-19 -0.053740  0.013313  0.008949 -0.006157  0.002628 -0.010517   
1990-07-20 -0.078581  0.056345  0.386847  0.056035 -0.044696  0.013128   
...              ...       ...       ...       ...       ...       ...   
2015-05-01  0.066707  0.018254  0.009552  0.002706  0.008036  0.000745   
2015-05-04  0.066707  0.018254  0.009552  0.002706  0.008036  0.000745   

               PCA12     PCA13  
date                            
1990-06-08  0.013466 -0.020638  
...              ...       ...  
2015-05-04  0.001502  0.004461  

以上是从更新的代码输出,但看起来它输出不好。 “第一主成分”定义为:

  

这种转换的定义方式是第一主成分>具有尽可能大的方差(即尽可能多地考虑数据中的>变量),并且每个后续成分依次具有>在与前面的组件正交的约束下可能的最高方差。

简单地抓住PCA的第一列是否与上面的定义相同?

2 个答案:

答案 0 :(得分:3)

PCA对象有一个成员components_,在调用fit()后保存组件。

来自docs

  

组件_ :数组,形状(n_components,n_features)

     

特征空间中的主轴,表示数据中最大方差的方向。组件按explained_variance_排序。

示例:

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
from sklearn.decomposition import PCA

np.random.seed(42)

df = pd.DataFrame(np.concatenate([np.random.rand(50, 5), np.random.rand(50, 5) + 1]))

pca = PCA(n_components=2).fit(df)

print(pca.components_)

输出:特征空间中的两个组件

[[-0.43227251 -0.47497776 -0.41079902 -0.47411737 -0.44044691]
 [ 0.41214174 -0.54429826 -0.55429329  0.34990399  0.32280758]]

说明:

如文档中所述,这些向量已按其explained_variance_排序。这意味着通过抓取第一个向量pca.components_[0],您会收到方差最大的向量(由pca.explained_variance_[0]给出)。

可以想象这一点。正如您在上面的代码中看到的,我们希望找到具有最高方差的两个组件(PCA(n_components=2))。通过进一步调用pca.transform(df)我们所做的是将数据投影到这些组件上。这将导致矩阵(n_samples, n_components)的大小 - 这也意味着我们可以绘制这个。

我们还可以转换pca.components_给出的向量,以便在较低维空间中查看这两个组件。为了使绘图更有意义,我首先将变换后的分量标准化为长度1,然后通过解释的方差进一步对其进行缩放,以突出其重要性。

t = pca.transform(df)
ax = plt.figure().gca()
ax.scatter(t[:,0], t[:,1], s=5)

transf_components = pca.transform(pca.components_)

for i, (var, c) in enumerate(zip(pca.explained_variance_, transf_components)):
    # The scaling of the transformed components for the purpose of visualization
    c = var * (c / np.linalg.norm(c))    
    ax.arrow(0, 0, c[0], c[1], head_width=0.06, head_length=0.08, fc='r', ec='r')
    ax.annotate('Comp. {0}'.format(i+1), xy=c+.08)

plt.show()

给出:

enter image description here

特别更新:

在评论部分与您聊天后:或许请查看FactorAnalysissee also):

  

请注意,df现在是一个包含二进制值的矩阵(就像您的原始数据一样)

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
from sklearn.decomposition import FactorAnalysis

np.random.seed(42)

n_features = 20

# After 50 samples we "change the behavior"
df = pd.DataFrame(1*np.concatenate([np.random.rand(50, n_features) > .25, 
                                    np.random.rand(50, n_features) > .75]))

# I chose n_components here totally arbitrary (< n_features) ..

fa = FactorAnalysis(n_components=5).fit(df)
t = fa.transform(df)

ax = plt.figure().gca()
ax.plot(t[:,0])
ax.axvline(50, color='r', linestyle='--', alpha=.5) 

输出:

enter image description here

答案 1 :(得分:0)

您始终可以使用PCA().fit_transform(df).iloc[:, 0],这将为您提供每行第一个PC轴的值。