我有以下代码可以在Twitter推文中获取,并且应该处理数据,之后保存到新文件中。
这是代码:
#import regex
import re
#start process_tweet
def processTweet(tweet):
# process the tweets
#Convert to lower case
tweet = tweet.lower()
#Convert www.* or https?://* to URL
tweet = re.sub('((www\.[\s]+)|(https?://[^\s]+))','URL',tweet)
#Convert @username to AT_USER
tweet = re.sub('@[^\s]+','AT_USER',tweet)
#Remove additional white spaces
tweet = re.sub('[\s]+', ' ', tweet)
#Replace #word with word
tweet = re.sub(r'#([^\s]+)', r'\1', tweet)
#trim
tweet = tweet.strip('\'"')
return tweet
#end
#Read the tweets one by one and process it
input = open('withoutEmptylines.csv', 'rb')
output = open('editedTweets.csv','wb')
line = input.readline()
while line:
processedTweet = processTweet(line)
print (processedTweet)
output.write(processedTweet)
line = input.readline()
input.close()
output.close()
我输入文件中的数据如下所示,因此每条推文都在一行中:
She wants to ride my BMW the go for a ride in my BMW lol http://t.co/FeoNg48AQZ
BMW Sees U.S. As Top Market For 2015 i8 http://t.co/kkFyiBDcaP
我的功能运行良好,但我对输出看起来不满意:
she wants to ride my bmw the go for a ride in my bmw lol URL rt AT_USER Ðun bmw es mucho? yo: bmw. -AT_USER veeergaaa!. hahahahahahahahaha nos hiciste la noche caray!
所以它将所有内容放在一行中,而不是将每条推文放在一行中,就像输入文件中的格式一样。
有人有想法让每条推文都在一行吗?
答案 0 :(得分:0)
使用如下示例文件:
tweet number one
tweet number two
tweet number three
此代码:
file = open('tweets.txt')
for line in file:
print line
生成此输出:
tweet number one
tweet number two
tweet number three
Python正在阅读最终版本,但您的脚本正在通过正则表达式替换来替换它们。
这个正则表达式替换:
tweet = re.sub('[\s]+', ' ', tweet)
将所有空格字符(例如制表符和换行符)转换为单个空格。
在输出之前在推文上添加一个结束,或者修改你的正则表达式而不是替换这样的结束语:
tweet = re.sub('[ ]+', ' ', tweet)
编辑:我把测试替换命令放在那里。该建议已得到修复。