网络抓取最常用的名称

Question

我需要通过网络抓取a web page并找到五个最常用的名字。预期的输出应该像

[
    ('Anna Pavlovna', 7), 
    ('the prince', 7), 
    ('the Empress', 3), 
    ('Theprince', 3), 
    ('Prince Vasili', 2),
]

我的代码确实计算出了最常用的名称，但输出看起来像这样：

 [(<span class="green">Anna Pavlovna</span>, 7),
 (<span class="green">the prince</span>, 7),
 (<span class="green">the Empress</span>, 3),
 (<span class="green">The prince</span>, 3),
 (<span class="green">Prince Vasili</span>, 2)]

如何使输出看起来像样本输出？

import nltk

from urllib.request import urlopen
from bs4 import BeautifulSoup
html=urlopen('http://www.pythonscraping.com/pages/warandpeace.html')
soup=BeautifulSoup(html,'html.parser')

nameList = soup.findAll("span", {"class":"green"})  # may use bsObj.find_all()


fdist1 = nltk.FreqDist(nameList)
fdist1.most_common(5)

Answer 1

页面显示错误502 Bad Gateway，但我想我知道您的问题是什么。 当您使用findAll时，它将为您提供bs4元素而不是字符串。因此，您需要使用obj.get_text（）之类的东西将其转换为字符串。 see documentation

items = soup.findAll("span", {"class": "green"})
texts = [item.get_text() for item in items]
# Now you have the texts of the span elements

顺便说一句，您的代码示例不正确，因为不会定义bsObj。

Answer 2

只需更改此行：

nameList = soup.findAll("span", {"class":"green"})

对此：

nameList = [tag.text for tag in soup.findAll("span", {"class":"green"})]

findAll函数返回标签列表，以使用text属性在标签内获取文本。