Question

我正在使用Python 3.4构建一个损坏的链接检查器，以帮助确保我管理的大量文章的质量。最初我使用GET请求来检查链接是否可行，但是我在ping我检查的URL时尽量做到尽可能好，所以我都确保不检查被测试的URL不止一次工作，我试图做头部请求。

但是，我找到了一个导致此停止的网站。它既不会抛出错误也不会打开：

https://www.icann.org/resources/pages/policy-2012-03-07-en

链接本身功能齐全。理想情况下，我想找到一种处理类似链接的方法。 Python 3.4中的这段代码将重现这个问题：

import urllib
import urllib.request

URL = 'https://www.icann.org/resources/pages/policy-2012-03-07-en'
req=urllib.request.Request(URL, None, {'User-Agent': 'Mozilla/5.0 (X11; Linux i686; G518Rco3Yp0uLV40Lcc9hAzC1BOROTJADjicLjOmlr4=) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/44.0.2403.157 Safari/537.36','Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8','Accept-Charset': 'ISO-8859-1,utf-8;q=0.7,*;q=0.3','Accept-Encoding': 'gzip, deflate, sdch','Accept-Language': 'en-US,en;q=0.8','Connection': 'keep-alive'}, method='HEAD')>>> from http.cookiejar import CookieJar
cj = CookieJar()
opener = urllib.request.build_opener(urllib.request.HTTPCookieProcessor(cj))
response = opener.open(req)

因为它没有抛出错误，我真的不知道如何进一步解决这个问题，除了将其缩小到停止整个检查程序的链接之外。如何检查此链接是否有效？

Answer 1

From bs4 import BeautifulSoup,SoupStrainer    
import urllib2    
import requests    
import re    
import certifi    
import ssl    
ssl._create_default_https_context = ssl._create_unverified_context

def getStatus(url):
    a=requests.get(url,verify=False)
    report = str(a.status_code)
    return report


alllinks=[]
passlinks=[]
faillinks=[]
html_page = urllib2.urlopen("https://link")

soup = BeautifulSoup(html_page,"html.parser")
for link in soup.findAll('a', attrs={'href': re.compile("^http*")}):
    #print link.get('href')
    status = getStatus(link.get('href'))
    #print ('URL---->',link.get('href'),'Status---->',status)
    link='URL---->',link.get('href'),'Status---->',status
    alllinks.append(link)

    if status == '200':
        passlinks.append(link)
    else:
        faillinks.append(link)


print alllinks
print passlinks
print faillinks

断开链接检查器失败请求

1 个答案: