我刚开始网络抓取。对于我的第一个项目,我正在尝试使用requests.Session()登录artofproblemsolving.com并访问另一个用户的帐户。这是我的代码:
import requests
LOGIN_URL = 'https://www.artofproblemsolving.com/Forum/ucp.php?mode=login'
DATA_URL = 'https://www.artofproblemsolving.com/Forum/memberlist.php?mode=viewprofile&u=90586'
payload = {
'username': '{{my_username}}',
'password': '{{my_password}}'
}
with requests.Session() as s:
s.post(LOGIN_URL, data=payload)
r = s.get(DATA_URL)
print r.text
但是当我在终端中运行它时,输出HTML来自登录页面,而不是我试图抓取的用户配置文件。我仔细检查了LOGIN_URL是登录表单中的POST操作,'username'和'password'是表单项的名称,我的登录信息是正确的。
感谢所有帮助,谢谢!
答案 0 :(得分:3)
我不确定这是问题的直接原因。但是表单还有另一个参数发送到登录操作。
在username
,password
旁边,还传递以下参数:
'username': username,
'password': password,
'login': 'Login'.
'sid': sid, # You need to parse the login page to get sid
'redirect': 'index.php',