Question

目前我正在做一个项目，可能需要使用kNN算法来找到给定点的前k个最近邻居，比如P. im使用python，sklearn包来完成这项工作，但我们的预定义度量不是一个那些默认指标。所以我必须使用sklearn的文档中的用户定义指标，可以找到here和here。

似乎最新版本的sklearn kNN支持用户定义的指标，但我无法找到如何使用它：

import sklearn
from sklearn.neighbors import NearestNeighbors
import numpy as np
from sklearn.neighbors import DistanceMetric
from sklearn.neighbors.ball_tree import BallTree
BallTree.valid_metrics

我已经定义了一个名为mydist = max（x-y）的指标，然后使用DistanceMetric.get_metric将其作为DistanceMetric对象：

dt=DistanceMetric.get_metric('pyfunc',func=mydist)

从文档中，该行应该如下所示

nbrs = NearestNeighbors(n_neighbors=4, algorithm='auto',metric='pyfunc').fit(A)
distances, indices = nbrs.kneighbors(A)

但是我可以将dt放在哪里？感谢

Answer 1

您将一个指标作为metric param传递，并将其他指标参数作为关键字参数传递给NN构造函数：

>>> def mydist(x, y):
...     return np.sum((x-y)**2)
...
>>> X = np.array([[-1, -1], [-2, -1], [-3, -2], [1, 1], [2, 1], [3, 2]])

>>> nbrs = NearestNeighbors(n_neighbors=4, algorithm='ball_tree',
...            metric='pyfunc', func=mydist)
>>> nbrs.fit(X)
NearestNeighbors(algorithm='ball_tree', leaf_size=30, metric='pyfunc',
         n_neighbors=4, radius=1.0)
>>> nbrs.kneighbors(X)
(array([[  0.,   1.,   5.,   8.],
       [  0.,   1.,   2.,  13.],
       [  0.,   2.,   5.,  25.],
       [  0.,   1.,   5.,   8.],
       [  0.,   1.,   2.,  13.],
       [  0.,   2.,   5.,  25.]]), array([[0, 1, 2, 3],
       [1, 0, 2, 3],
       [2, 1, 0, 3],
       [3, 4, 5, 0],
       [4, 3, 5, 0],
       [5, 4, 3, 0]]))

Answer 2

上一个答案的一小部分内容。如何使用带有其他参数的用户定义指标。

>>> def mydist(x, y, **kwargs):
...     return np.sum((x-y)**kwargs["metric_params"]["power"])
...
>>> X = np.array([[-1, -1], [-2, -1], [-3, -2], [1, 1], [2, 1], [3, 2]])
>>> Y = np.array([-1, -1, -2, 1, 1, 2])
>>> nbrs = KNeighborsClassifier(n_neighbors=4, algorithm='ball_tree',
...            metric=mydist, metric_params={"power": 2})
>>> nbrs.fit(X, Y)
KNeighborsClassifier(algorithm='ball_tree', leaf_size=30,                                                                                                                                                          
       metric=<function mydist at 0x7fd259c9cf50>, n_neighbors=4, p=2,
       weights='uniform')
>>> nbrs.kneighbors(X)
(array([[  0.,   1.,   5.,   8.],
       [  0.,   1.,   2.,  13.],
       [  0.,   2.,   5.,  25.],
       [  0.,   1.,   5.,   8.],
       [  0.,   1.,   2.,  13.],
       [  0.,   2.,   5.,  25.]]),
 array([[0, 1, 2, 3],
       [1, 0, 2, 3],
       [2, 1, 0, 3],
       [3, 4, 5, 0],
       [4, 3, 5, 0],
       [5, 4, 3, 0]]))

Answer 3

在尝试使用用户定义的指标时，仅通过设置 algorithm='brute' 才能使用 KNeighborsRegressor()。

否则 fit() 工作但 predict() 在使用 JupyterLab 时失败并显示错误“返回 NULL 而不设置错误”，或使用 Google Colab 时“SystemError: error return without exception set”

使用用户定义的指标Sklearn kNN用法

3 个答案: