R - 在Twitter句柄列表上使用循环来提取推文并创建多个数据框

时间:2018-04-24 08:11:08

标签: r twitter web-scraping rtweet

我有一个df,其中包含我希望定期搜索的Twitter句柄。

df=data.frame(twitter_handles=c("@katyperry","@justinbieber","@Cristiano","@BarackObama"))

我的方法论

我想运行一个循环遍及df中每个句柄的for循环,并创建多个数据帧:

1)通过使用rtweet库,我想使用search_tweets函数收集推文。

2)然后我想将新推文合并到每个数据帧的现有推文中,然后使用unique函数删除任何重复的推文。

3)对于每个数据框,我想添加一个列,其中包含用于获取数据的Twitter句柄的名称。例如:对于使用句柄@BarackObama获得的推文数据库,我想要一个名为Source的附加列,其句柄为@BarackObama。

4)如果API返回0条推文,我希望忽略步骤2)。通常,当API返回0条推文时,我会在尝试将空数据框与现有数据框合并时收到错误。

5)最后,我想将每个scrape的结果保存到不同的数据框对象中。每个数据框对象的名称都是其Twitter句柄,小写且没有@

我想要的输出

我想要的输出是4个数据帧,katyperryjustinbiebercristiano& barackobama

我的尝试

library(rtweet)
library(ROAuth)

#Accessing Twitter API using my Twitter credentials

key <-"yKxxxxxxxxxxxxxxxxxxxxxxx"
secret <-"78EUxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx"
setup_twitter_oauth(key,secret)

#Dataframe of Twitter handles    
df=data.frame(twitter_handles=c("@katyperry","@justinbieber","@Cristiano","@BarackObama"))

# Setting up the query
query <- as.character(df$twitter_handles)
query <- unlist(strsplit(query,","))
tweets.dataframe = list()

# Loop through the twitter handles & store the results as individual dataframes
for(i in 1:length(query)){
  result<-search_tweets(query[i],n=10000,include_rts = FALSE)
  #Strip tweets that  contain RTs
  tweets.dataframe <- c(tweets.dataframe,result)
  tweets.dataframe <- unique(tweets.dataframe)
}

但是,如果API为给定句柄返回0个推文,我无法弄清楚如何在我的for循环中包含忽略连接步骤的部分。

另外,我的for循环在我的环境中不返回4个数据帧,但将结果存储为Large list

我确定了post解决了与我面临的问题非常相似的问题,但我发现很难适应我的问题。

非常感谢您的投入。

编辑:我已在“我的方法论”中添加了第3步),以防您能够提供帮助。

1 个答案:

答案 0 :(得分:3)

tweets.dataframe = list()

# Loop through the twitter handles & store the results as individual dataframes
for(i in 1:length(query)){
  result<-search_tweets(query[i],n=10,include_rts = FALSE)

  if (nrow(result) > 0) {  # only if result has data
    tweets.dataframe <- c(tweets.dataframe, list(result))
  }
}

# tweets.dataframe is now a list where each element is a date frame containing
# the results from an individual query; for example...

tweets.dataframe[[1]]

# to combine them into one data frame

do.call(rbind, tweets.dataframe)

回复回复......

twitter_handles <- c("@katyperry","@justinbieber","@Cristiano","@BarackObama")

# Loop through the twitter handles & store the results as individual dataframes
for(handle in twitter_handles) {
  result <- search_tweets(handle, n = 15 , include_rts = FALSE)
  result$Source <- handle

  df_name <- substring(handle, 2)

  if(exists(df_name)) {
    assign(df_name, unique(rbind(get(df_name), result)))
  } else {
    assign(df_name, result)
  }
}