Question

我有一个URL列表，其中一些现在无法使用。我想解析该列表并获取这些URL的返回码，并将其存储在数据框中。我有以下代码：

for url in df['URL'][]:
print(url)
try:
    #print(urllib2.urlopen(url).getcode())
    df['returncode']=urllib2.urlopen(url).getcode()
except:
    df['returncode']='Obsolete'
    #print('obsolete')

我得到的是所有“过时的”列。

df['returncode']:
0         Obsolete
1         Obsolete
2         Obsolete
3         Obsolete
4         Obsolete
5         Obsolete
6         Obsolete
7         Obsolete
8         Obsolete
9         Obsolete
10        Obsolete
11        Obsolete

如果我打印这些值，则可以看到不同的返回码。

http://study.com/odfv.html
obsolete
http://www.meghansfashion.com/uploads/2/1/2/9/21295692/2_75_orig.png
200
http://p16.muscdn.com/img/tos-maliva-p-0068/8ab65f6aac844cdf83526b5662720be3~c5_300x400.jpeg
200
http://config.88-f.net/hb/c1/pxbfwsp
obsolete

我在这里做什么错了？

Answer 1

获取URL的返回码python urllib

您可以使用requests在网址上获取http状态代码，即：

import requests
response = requests.get("https://google.com")
print (response.status_code)
# 200

Answer 2

您可以使用urllib2获取http响应代码。你是大多数在那里，您只需要正确处理异常即可。 urllib2 收到错误的http响应时会引发异常。

import urllib2

urls = ['http://www.google.com', 'http://google.com/does-not-exist']

for url in urls:
    try:
        res = urllib2.urlopen(url)
        code = res.getcode()
    except urllib2.HTTPError as err:
        code = err.getcode()

    print('{}: {}'.format(url, code))

这将输出：

http://www.google.com: 200
http://google.com/does-not-exist: 404

Answer 3

在DataFrame中输入结果的方式不起作用。命令

df['returncode']= ...

将值放入DataFrame的每行中。因此，您最终看到的是所找到的 last 值的11倍。

要改善这一点，您需要将结果放入特定的行。您可以像这样遍历行：

for index, row in df.iterrows():
    url = row['URL']
    print(url)
    try:
        #print(urllib2.urlopen(url).getcode())
        row['returncode']=urllib2.urlopen(url).getcode()
    except:
        row['returncode']='Obsolete'
        #print('obsolete')

获取URL的返回码python urllib

3 个答案: