使用箱线图查找和可视化最佳和最差物品

时间:2019-02-18 10:24:06

标签: r rating rating-system recommender-systems kruskal-wallis

我是一个来自jester_dataset_2.zip项目的笑话数据集2(Jester)的数据集,我想将这些笑话分为评级相似的笑话组,并适当地可视化结果。

数据看起来像这样

> str(tabulka)
'data.frame':   1761439 obs. of  3 variables:
 $ User  : int  1 1 1 1 1 1 1 1 1 1 ...
 $ Joke  : int  5 7 8 13 15 16 17 18 19 20 ...
 $ Rating: num  0.219 -9.281 -9.281 -6.781 0.875 ...

这里是Dataset 2的子集。

> head(tabulka)
  User Joke Rating
1    1    5  0.219
2    1    7 -9.281
3    1    8 -9.281
4    1   13 -6.781
5    1   15  0.875
6    1   16 -9.656

我发现我不能使用ANOVA,因为同质性不同。因此,我使用R中agricolae软件包中的Kruskal–Wallis方法。

KWtest <- with ( tabulka , kruskal ( Rating , Joke ))

这是组。

> head(KWtest$groups)
  trt   means  M
1  53 1085099  a
2 105 1083264  a
3  89 1077435 ab
4 129 1072706  b
5  35 1070016 bc
6  32 1062102  c

问题是我不知道如何恰当地可视化笑话组。我正在使用箱线图显示每个笑话的置信区间。

barvy <- c ("yellow", "grey")
boxplot (Rating ~ Joke, data = tabulka,
         col = barvy,
         xlab = "Joke",
         ylab = "Rating",
         ylim=c(-7,7))

最好根据KW测试给出的颜色,以适当的颜色为每个盒子(每个笑话)上色。

我该怎么做?还是有更好的方法来查找数据集中的最佳和最差笑话?

1 个答案:

答案 0 :(得分:2)

有趣的问题,本身。可以根据笑话所属的组轻松为每个彩条着色。但是,我认为这只是一个中间解决方案,必须对这些数据进行更好的可视化。因此,当然不是最好的版本,但是有我的版本:

library(tidyverse)

# download data (jokes, part 1) to temporaty file, and unzip
tmp <- tempfile()
download.file("http://eigentaste.berkeley.edu/dataset/jester_dataset_1_1.zip", tmp)
tmp <- unzip(tmp)

# read data from temp
vtipy <- readxl::read_excel(tmp, col_names = F, na = '99')

# clean data
vtipy <- vtipy %>%
  mutate(user = 1:n()) %>%
  gather(key = 'joke', value = 'rating', -c('..1', 'user')) %>%
  rename(n = '..1', ) %>%
  filter(!is.na(rating)) %>%
  mutate(joke = as.character(as.numeric(gsub('\\.+', '', joke)) - 1)) %>%
  select(user, n, joke, rating)

# your code
KWtest <- with(vtipy, agricolae::kruskal(rating, joke))

# join groups from KWtest to original data, clean and plot
KWtest$groups %>%
  rownames_to_column('joke') %>%
  select(joke, groups) %>%
  right_join(vtipy, by = 'joke') %>% 
  mutate(joke = stringi::stri_pad_left(joke, 3, '0')) %>%
  ggplot(aes(x = joke, y = rating, fill = groups)) +
  geom_boxplot(show.legend = F) +
  scale_x_discrete(breaks = stringi::stri_pad_left(c(1, seq(5, 100, by = 5)), 3, '0')) +
  ggthemes::theme_tufte() +
  labs(x = 'Joke', y = 'Rating')

jokes