从数据框创建稀疏矩阵

时间:2014-10-05 22:24:02

标签: r machine-learning sparse-matrix

我正在做一项任务,我正在尝试为Netflix奖品数据构建一个协作过滤模型。我正在使用的数据是一个CSV文件,我很容易将其导入数据框。现在我需要做的是创建一个稀疏矩阵,由用户组成行,电影作为列,每个单元格由相应的评级值填充。当我尝试绘制数据框中的值时,我需要为数据框中的每一行运行一个循环,这在R中花费了大量时间,请任何人都可以提出更好的方法。以下是示例代码和数据:

buildUserMovieMatrix <- function(trainingData)
{
  UIMatrix <- Matrix(0, nrow = max(trainingData$UserID), ncol = max(trainingData$MovieID), sparse = T);
  for(i in 1:nrow(trainingData))
  {
    UIMatrix[trainingData$UserID[i], trainingData$MovieID[i]] = trainingData$Rating[i];
  }
  return(UIMatrix);
}

正在创建稀疏矩阵的数据框中的数据样本:

    MovieID UserID  Rating
1       1      2       3
2       2      3       3
3       2      4       4
4       2      6       3
5       2      7       3

所以最后我想要这样的东西: 列是电影ID,行是用户ID

    1   2   3   4   5   6   7
1   0   0   0   0   0   0   0
2   3   0   0   0   0   0   0
3   0   3   0   0   0   0   0
4   0   4   0   0   0   0   0
5   0   0   0   0   0   0   0
6   0   3   0   0   0   0   0
7   0   3   0   0   0   0   0

所以解释是这样的:用户2将电影1评为3星,用户3将电影2评为3星,以此类推其他用户和电影。我的数据框中有大约8500000行,我的代码需要大约30-45分钟才能创建此用户项矩阵,我想得到任何建议

2 个答案:

答案 0 :(得分:14)

Matrix包有一个专门为您的数据类型构建的构造函数:

library(Matrix)
UIMatrix <- sparseMatrix(i = trainingData$UserID,
                         j = trainingData$MovieID,
                         x = trainingData$Rating)

否则,您可能想知道[函数的一个很酷的特性,称为矩阵索引。你原本可以尝试:

buildUserMovieMatrix <- function(trainingData) {
  UIMatrix <- Matrix(0, nrow = max(trainingData$UserID),
                        ncol = max(trainingData$MovieID), sparse = TRUE);
  UIMatrix[cbind(trainingData$UserID,
                 trainingData$MovieID)] <- trainingData$Rating;
  return(UIMatrix);
}

(但我肯定会推荐sparseMatrix方法。)

答案 1 :(得分:9)

这可能比循环更快。

library(reshape2)
m <- dcast(df,UserID~MovieID,fill=0)[-1]
m
#   1 2
# 1 3 0
# 2 0 3
# 3 0 4
# 4 0 3
# 5 0 3

如果你使用data.tables,它将很多更快:

library(data.table)
DT <- as.data.table(df)
m  <- dcast(DT,UserID~MovieID,fill=0)[-1]

我确信有人会指出,你可以改用

setDT(df)
m  <- dcast(df,UserID~MovieID,fill=0)[-1]

这会将df转换为data.table(不进行复制)。如果您的数据集很大,那可能会有所不同......