具有BS4和urllib的Python-从网站提取后如何移动/操作文本

时间:2018-12-28 21:27:30

标签: python beautifulsoup urllib

希望编写一个程序来查询任何给定球队的NBA胜负数据,然后返回数字(即(3/6,50%“))

更好的理解方式... 运行代码-选择湖人队-根据下一场比赛返回统计数据-在客场获胜,客场输球后,主场获胜后,主场失利后返回本国战绩 和一个客场比赛相同的4

我的想法- 找到一种方法来遍历文本并选择或提取我想要的元素,然后基于这些元素运行一些简单的数字...或者再次遍历每个游戏并保持我希望返回的每个百分比的计数-因此,也许可以将我想要的这4个统计数据分别设置为一个变量,或在迭代游戏列表时将其添加到变量中,然后返回结果

import bs4 as bs
import urllib.request


sauce = urllib.request.urlopen('http://www.espn.com/nba/team/schedule/_/name/lal').read()
soup = bs.BeautifulSoup(sauce, 'lxml')

table = soup.find('table')
table_rows = table.find_all('tr')

for tr in table_rows:
    td = tr.find_all('td')
    row = [i.text for i in td]
    print(row)

此代码将返回我想要的所有数据的大集合

['Fri, Dec 21', 'vs New Orleans ', 'W112-104  ', '19-13', 'Kuzma  23', 'James  12', 'James  14']
['Sun, Dec 23', 'vs Memphis ', 'L107-99  ', '19-14', 'James  22', 'James  14', 'James  7']
['Tue, Dec 25', '@ Golden State ', 'W127-101  ', '20-14', 'Kuzma  19', 'James  13', 'Rondo  10']
['Thu, Dec 27', '@ Sacramento ', 'L117-116  ', '20-15', 'Kuzma  33', 'Chandler  10', 'Ball  12']
['Date', 'Opponent', 'Time', 'TV', 'tickets']
['Fri, Dec 28', 'vs LA ', '10:30 PM ', 'NBATV', '1,143 tickets as low as $175 ']
['Sun, Dec 30', 'vs Sacramento ', '9:30 PM ', '', '1,270 tickets as low as $136 ']
['Wed, Jan 2', 'vs Oklahoma City ', '10:30 PM ', '', '1,240 tickets as low as $175 ']

我当然希望完成我的代码,但现在我正在寻找一些有关弄乱数据的帮助。我最想说的是-----创建一个包含所有'@'客场游戏的新列表以及一个包含所有主游戏的列表,其中包括BS4和url lib,就像我一样 基本上两者都是完全的初学者。

我已经尝试过一些操作,例如弄乱row = [i.text for in td],并尝试提取字符串,文本,但只是找不到正确的东西,其中有些语法不正确,我认为有些只是没有正确的代码。任何帮助表示赞赏!

从那里我可以找出开始时所说的进行实际计算所需的其他代码,如果需要,我可以重新发布或提出其他问题!

1 个答案:

答案 0 :(得分:2)

这会让您前进。

import pandas as pd

url = "http://www.espn.com/nba/team/schedule/_/name/lal"

# get all tables in url
dfs = pd.read_html(url)

# there were 3 tables. We want table in index position 2
df = dfs[2]

# take the first row (index 0) and make that the column names. Drop that first row and re index the dataframe
df = df.rename(columns=df.iloc[0]).drop(df.index[0]).reset_index(drop = True)

输出:

print (df)
           Date         Opponent       ...          Hi Rebounds       Hi Assists
0   Thu, Oct 18       @ Portland       ...             James 12         Rondo 11
1   Sat, Oct 20       vs Houston       ...              Rondo 7         Rondo 10
2   Mon, Oct 22   vs San Antonio       ...              Hart 10         James 14
3   Wed, Oct 24        @ Phoenix       ...         Stephenson 8         James 10
4   Thu, Oct 25        vs Denver       ...             James 11         James 11
5   Sat, Oct 27    @ San Antonio       ...             James 11          Rondo 5
6   Mon, Oct 29      @ Minnesota       ...             James 10          James 8
7   Wed, Oct 31        vs Dallas       ...             McGee 15           Ball 7
8    Sat, Nov 3       @ Portland       ...             Rondo 10          James 7
9    Sun, Nov 4       vs Toronto       ...               Ball 9          James 6
10   Wed, Nov 7     vs Minnesota       ...             James 11         Rondo 10
11  Sat, Nov 10     @ Sacramento       ...          Chandler 12          Rondo 7

一旦有了该数据框,就开始过滤行或使用“ @”分割行。做一些分组,以分组游戏/家庭游戏。您也可以开始解析日期列。您可以使用熊猫来处理很多数据。