当我使用googletrans API时如何修复json.decoder.JSONDecodeError?

时间:2019-05-27 17:25:48

标签: python pandas google-translate sentiment-analysis vader

我正在尝试将一系列推文从意大利语翻译成英语。它们包含在一个csv文件中,所以我用熊猫提取它们以计算Vader的情绪。不幸的是,我收到此错误json.decoder.JSONDecodeError:预期值:第1行第1列(字符0)。

我已经尝试从推文中删除表情符号,并按照其他帖子中的指示使用vpn,但这是行不通的。

def remove_emoji(text):
    return emoji.get_emoji_regexp().sub(u'', text)

def extract_emojis(str):
  return ''.join(c for c in str if c in emoji.UNICODE_EMOJI)

def clean_emojis(text):
    toreturn = ""
    for c in text:
        if c not in emoji.UNICODE_EMOJI:
            toreturn += c
    return toreturn

def sentiment_analyzer_scores(text, engl=True):
    if engl:
        translation = text
    else:
        try:
            emojis = extract_emojis(text) 
            text = clean_emojis(text)

            demoji.replace(text)
            text = remove_emoji(text)
            text = text.encode('ascii', 'ignore').decode('ascii')

            # translator= Translator(from_lang="Italian",to_lang="English")
            # translation = translator.translate(text)
            translation = translator.translate(text).text
            # print(translation)

        except Error as e:
            print(text)
            print(e)
            pass

    text = translation + emojis
    # print(text)
    score = analyser.polarity_scores(text)
    return score['compound']

def anl_tweets(lst, engl=True):
    sents = []
    id = 0
    for tweet_text in lst:
        try:
            sentiment = sentiment_analyzer_scores(tweet_text, engl)
            sents.append(sentiment)
            id = id + 1
            print("Sentiment del tweet n° %s = %s" % (id, sentiment))

        except Error as e:
            sents.append(0)
            print(e)
    return sents

#Main
translator = Translator()
analyser = SentimentIntensityAnalyzer()
file_name = 'file.csv'
df = pd.read_csv(file_name)
print(df.shape)

# Calculate Sentiment and add column
df['tweet_sentiment'] = anl_tweets(df.tweet_text, False)
# Save the modifies
df.to_csv(file_name, encoding='utf-8', index=False)

1 个答案:

答案 0 :(得分:0)

这与表情符号无关,Google对您可以翻译的字符数有限制,当达到此限制时,Google API只会阻止您。

了解配额here 简单的解决方案是将脚本分成多个块,并使用代理服务器/不同的IP地址。

另一个选择是https://pypi.org/project/translate/ (我还没有尝试过)