Scipy拟合多项式模型到一些数据

时间:2016-05-01 20:34:45

标签: python numpy scipy scikit-learn

我确实试图在不同条件下找到适合细胞渗透性的功能。如果我假设持续渗透率,我可以将其与实验数据相匹配,并使用Sklearns PolynomialFeaturesLinearModel(如this post中所述),以确定条件和渗透性。然而,渗透率并不是恒定的,现在我尝试使用渗透率作为工艺条件的函数来拟合我的模型。 sklearn的PolynomialFeature模块非常好用。

scipy或numpy中是否有等效函数允许我创建一个多项式模型(包括交互项,例如a*x[0]*x[1]等),而不需要手工编写整个函数?

numpy中的标准多项式类似乎不支持交互项。

1 个答案:

答案 0 :(得分:1)

我不知道这样的功能可以完全满足您的需求,但您可以使用itertoolsnumpy的组合来实现它。

如果你有n_features预测变量,你基本上必须生成长度为n_features的所有向量,其条目是非负整数,并且总和为指定的顺序。每个新要素列都是使用这些向量求和的给定顺序的组件功率。

例如,如果order = 3n_features = 2,其中一项新功能将是相应功能的旧功能[2,1]。我在下面写了一些代码,用于任意顺序和功能数量。我已经修改了从this post求和order的向量生成。

import itertools
import numpy as np
from scipy.special import binom 

def polynomial_features_with_cross_terms(X, order):
    """
    X: numpy ndarray
        Matrix of shape, `(n_samples, n_features)`, to be transformed.
    order: integer, default 2
        Order of polynomial features to be computed. 

    returns: T, powers.
        `T` is a matrix of shape,  `(n_samples, n_poly_features)`.
        Note that `n_poly_features` is equal to:

           `n_features+order-1` Choose `n_features-1`

        See: https://en.wikipedia.org\
        /wiki/Stars_and_bars_%28combinatorics%29#Theorem_two

        `powers` is a matrix of shape, `(n_features, n_poly_features)`.
        Each column specifies the power by row of the respective feature, 
        in the respective column of `T`.
    """
    n_samples, n_features = X.shape
    n_poly_features = int(binom(n_features+order-1, n_features-1))
    powers = np.zeros((n_features, n_poly_features))
    T = np.zeros((n_samples, n_poly_features), dtype=X.dtype)

    combos = itertools.combinations(range(n_features+order-1), n_features-1)
    for i,c in enumerate(combos):
        powers[:,i] = np.array([
            b-a-1 for a,b in zip((-1,)+c, c+(n_features+order-1,))
        ])

        T[:,i] = np.prod(np.power(X, powers[:,i]), axis=1)

    return T, powers

以下是一些示例用法:

>>> X = np.arange(-5,5).reshape(5,2)
>>> T,p = polynomial_features_with_cross_terms(X, order=3)
>>> print X
[[-5 -4]
 [-3 -2]
 [-1  0]
 [ 1  2]
 [ 3  4]]
>>> print p
[[ 0.  1.  2.  3.]
 [ 3.  2.  1.  0.]]
>>> print T
[[ -64  -80 -100 -125]
 [  -8  -12  -18  -27]
 [   0    0    0   -1]
 [   8    4    2    1]
 [  64   48   36   27]]

最后,我应该提到SVM polynomial kernel在没有明确计算多项式映射的情况下实现了这种效果。当然有赞成和反对意见,但我认为如果你还没有,我应该提及它。