scikit-learn / Gaussian Process不是尺度不变的

Question

我正在使用库scikit-learn测试高斯过程回归，并且对它给出的置信区间不满意。 这让我意识到这些不是尺度不变的：如果函数按比例放大（在每个轴上按比例），则置信区间变得更大。

也许图片会更好地解释它： （蓝点采样点，真功能为绿色，近似为蓝色，置信区间=平均值+/- 2sd =灰色区域）

功能缩放x 1：

功能缩放x 100：

直观地说，这些置信区间应该是规模不变的吗？我们是否与其他图书馆获得了同样的东西？

提前致谢！

PS：代码

# -*- coding: utf-8 -*-
"""
Created on Thu May 12 16:12:38 2016

@author: pierre
"""

import numpy as np
from sklearn import gaussian_process
import matplotlib.pyplot as plt
from mpl_toolkits.mplot3d import Axes3D
pi=3.14

#Figure
fig = plt.figure()
ax = fig.add_subplot(111)

#Function definition
def f(x):
    return 3*((x-0.5)**2)*((np.cos(pi*x))**2)+0.2*np.sin(5*x)

# Coefficient of scale
nn=100 

#Real function points
x_real=np.linspace(0,nn,100)
y_real=nn*f(x_real/nn).ravel()

#Four points sampled
X = nn*np.atleast_2d([0.,.2,.5,1.]).T
y = nn*f(X/nn).ravel()

#For the approximation
x = np.atleast_2d(np.linspace(0, nn, 200)).T

#GP call
gp = gaussian_process.GaussianProcess()
gp.fit(X, y)  
y_pred, sigma2_pred = gp.predict(x, eval_MSE=True)

#Plots
ax.scatter(X,y,s=400) #Sampled points
ax.plot(x,y_pred) #Approximation
ax.fill_between(x.ravel(),y_pred-10*sigma2_pred,y_pred+10*sigma2_pred,color='black',alpha=0.1) #Confidence intervals
ax.plot(x_real,y_real) #True function

Answer 1

您需要取zmq_msg_send (&zmsg, reqSocket, 0); 的平方根，因为它是MSE，或者意味着平方错误。置信区间应基于其平方根，如下所示：

sigma2_pred

有关scikit-learn文档页面的示例，请参阅here。他们也采取平方根。