Python:Extract请求任何给定URL接收的查询参数

时间:2018-01-19 16:55:49

标签: python parsing python-requests

背景 通常,如果我想查看网站获得的请求类型,我会打开Chrome开发人员工具(F12),转到“网络”选项卡并过滤我想要查看的请求。

实施例: A sample request URL that the site receives

一旦我有了请求URL,我就可以简单地解析我想要的查询字符串参数的URL。

这是一个非常手动的任务,我想我可以编写一个脚本,为我提供的任何URL执行此操作。我认为Python对此非常有用。

任务:

我找到了一个名为requests的库,用于在打开之前验证URL。

testPage = "http://www.google.com"
validatedRequest = str(requests.get(testPage, verify=False).url)
page = urlopen(validatedRequest)

但是,我不确定如何获取我输入的URL收到的请求。这在python中可能吗?正确方向上的一点很棒。一旦我知道如何访问这些请求标头,我就可以轻松解析。

谢谢。

1 个答案:

答案 0 :(得分:0)

您可以使用urlparse方法获取查询参数

<强>演示:

import requests
import urllib
from urlparse import urlparse

testPage = "http://www.google.com"
validatedRequest = str(requests.get(testPage, verify=False).url)
page = urllib.urlopen(validatedRequest)
print urlparse(page.url).query

<强>结果:

gfe_rd=cr&dcr=0&ei=ISdiWuOLJ86dX8j3vPgI

在python2.7中测试