R - 如何加速非常大的数据集上的欧几里德距离计算

时间:2014-11-07 08:46:32

标签: r euclidean-distance r-daisy

社区,

我有一个非常大的数据集,包含3个坐标为(x,y,z)和24 x 10 ^ 6行的列。我需要计算所有行和第一行之间的欧氏距离,即0,0,0。下面的循环需要很长时间!我也在矩阵而不是数据帧上尝试了这一点,但这并没有解决问题。

有没有人建议加快这个过程?

library(cluster)

e <- list() # list to be filled with euclidean distances

for (r in 1:(nrow(pca.123.df))) {

  eucl.dist <- daisy(pca.123.df[c(1,r), ], metric = "euclidean") # Euclidean distance between anomaly and zero (row 1)

  e[[r]] <- eucl.dist[1]

}

1 个答案:

答案 0 :(得分:4)

使用Euclidean distance的公式。

代码的可重现示例:

library(cluster)
set.seed(42)
DF <- as.data.frame(rbind(0, matrix(rnorm(15), ncol=3))) 

e <- list() # list to be filled with euclidean distances

for (r in 1:(nrow(DF))) {

  eucl.dist <- daisy(DF[c(1,r), ], metric = "euclidean") # Euclidean distance between anomaly and zero (row 1)

  e[[r]] <- eucl.dist[1]

}
# [[1]]
# [1] 0
# 
# [[2]]
# [1] 1.895646
# 
# [[3]]
# [1] 2.79863
# 
# [[4]]
# [1] 1.438665
# 
# [[5]]
# [1] 2.133606
# 
# [[6]]
# [1] 0.4302796

矢量化解决方案:

sqrt(colSums((t(DF)-unlist(DF[1,]))^2))
#[1] 0.0000000 1.8956461 2.7986300 1.4386649 2.1336055 0.4302796

使用第一行全为零的知识:

sqrt(rowSums(DF^2))
#1] 0.0000000 1.8956461 2.7986300 1.4386649 2.1336055 0.4302796