Question

我正在尝试在GPFlow中使用多维输入数据实现多输出GP。

我从GPflow中的this issue中看到，通过“定义多维基础内核，然后在其之上应用共域”，可以进行多维输入。

我已经写了以下代码，我知道对于同位素数据（所有输出都是获得的），人们可以使用this notebook中所述的替代方法，但是这里我需要尝试ICM，所以让我们继续下面的代码。

但是，当我尝试运行以下代码时：

from gpflow.gpr import GPR
import gpflow
import numpy as np
from gpflow.kernels import Coregion


def f(x):
    def _y(_x):
        function_sum = 0
        for i in np.arange(0, len(_x) - 1):
            function_sum += (1 - _x[i]) ** 2 + 100 * ((_x[i + 1] - _x[i] ** 2) ** 2)
        return function_sum
    return np.atleast_2d([_y(_x) for _x in (np.atleast_2d(x))]).T


isotropic_X = np.random.rand(100, 2) * 4 - 2
Y1 = f(isotropic_X)
Y2 = f(isotropic_X) + np.random.normal(loc=2000, size=(100,1))
Y3 = f(isotropic_X) + np.random.normal(loc=-2000, size=(100,1))

# a Coregionalization kernel. The base kernel is Matern, and acts on the first ([0]) data dimension.
# the 'Coregion' kernel indexes the outputs, and actos on the second ([1]) data dimension
k1 = gpflow.kernels.Matern32(2)
coreg = Coregion(1, output_dim=3, rank=1, active_dims=[3]) # gpflow.kernels.Coregion(2, output_dim=2, rank=1)
coreg.W = np.random.rand(3, 1)
kern = k1 * coreg

# Augment the time data with ones or zeros to indicate the required output dimension
X_augmented = np.vstack((np.hstack((isotropic_X, np.zeros(shape=(isotropic_X.shape[0], 1)))),
                         np.hstack((isotropic_X, np.ones(shape=(isotropic_X.shape[0], 1)))),
                        np.hstack((isotropic_X, 2 * np.ones(shape=(isotropic_X.shape[0], 1))))))

# Augment the Y data to indicate which likeloihood we should use
Y_augmented = np.vstack((np.hstack((Y1, np.zeros(shape=(Y1.shape[0], 1)))),
                         np.hstack((Y2, np.ones(shape=(Y2.shape[0], 1)))),
                         np.hstack((Y3, 2 * np.ones(shape=(Y3.shape[0], 1))))))

# now buld the GP model as normal
m = GPR(X_augmented, Y_augmented, kern=kern)
m.optimize()

print(m.predict_f(np.array([[0.2, 0.2, 0], [0.4, 0.4, 0]])))

它给我类似的信息：

  "Converting sparse IndexedSlices to a dense Tensor of unknown shape. "
Traceback (most recent call last):
  File "C:\Users\Administrator\Anaconda3\lib\site-packages\tensorflow\python\client\session.py", line 1356, in _do_call
    return fn(*args)
  File "C:\Users\Administrator\Anaconda3\lib\site-packages\tensorflow\python\client\session.py", line 1341, in _run_fn
    options, feed_dict, fetch_list, target_list, run_metadata)
  File "C:\Users\Administrator\Anaconda3\lib\site-packages\tensorflow\python\client\session.py", line 1429, in _call_tf_sessionrun
    run_metadata)
tensorflow.python.framework.errors_impl.InvalidArgumentError: indices[0] = 3 is not in [0, 3)
     [[{{node name.build_likelihood/name.kern.K/name.kern.coregion.K/GatherV2}}]]

所以我的问题是：
-这是什么问题，以及如何启用具有多维输入的多输出GP
-我从this multi-output gp slide并没有得到带有coregion的gpflow的工作流，ICM从以权重$ W $参数化的GP采样的潜伏过程$ u $的加法形式返回输出GP。但是在gpflow notebook demo中，我看不到任何潜在的过程，笔记本说“'Coregion'内核对输出进行索引，并作用于最后一个（[1]）数据维（索引）。扩展X值”（与幻灯片大不相同），对于这些不同的说明，我真的感到困惑，对此有何暗示？

Answer 1

问题仅在于偏移量索引：共区域化内核应为

coreg = Coregion(input_dim=1, output_dim=3, rank=1, active_dims=[2])

因为active_dims=[2]索引了第三列。

感谢您提供一个完全可复制的示例！我设法运行了代码，并使用了AdamOptimizer和ScipyOptimizer的几步，成功地对模型进行了优化，使对数似然值为-2023.4。

具有多输入的多输出GP？

1 个答案: