在网站上自动登录,保持登录状态,并使用Jsoup解析(java)

时间:2017-08-01 14:28:56

标签: java cookies jsoup autologin webautomation

过去3周我试图编写一个程序,它登录到一个网站并循环遍历页面以过滤特定的信息(特定的行/列表)。公平地说,这个程序是我自己编码的原因(在java中)。我创建了一种自动填充程序,它可以工作,但速度非常慢,因为它必须再次登录每个页面。因此我在想,为什么我的第一个(以下)计划不起作用。由于某种原因,我能够登录,但只要我从登录页面切换到特定页面(登录时只能访问),我就被重定向到登录页面。 出于这个问题的目的,我创建了一个假帐户。也许有人可以帮助或告诉我在哪里,我可以进一步阅读这个主题。我想饼干有问题,但我不确定。

 try {
        String url1 = "https://www.novaragnarok.com/";
        String url2 = "https://www.novaragnarok.com/?module=vending&action=item&id=2499";

        Connection.Response res = Jsoup
            .connect(url1)
            .followRedirects(true)
            .data("username", "stackoverflowww", "password", "stackpw")
            .method(Method.POST)
            .execute();

        Map<String, String> cookies = res.cookies();                    

        Document doc = Jsoup.connect(url2)
                  .cookies(cookies)
                  .followRedirects(true)
                  .get();

        System.out.println(cookies);            
        System.out.println(doc);
    } catch (IOException e) {
        e.printStackTrace();
    }

1 个答案:

答案 0 :(得分:0)

试试这个

String USER_AGENT = "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko)" +
        " Chrome/56.0.2924.87 Safari/537.36";

public void parseWebsite(){
    try{
        Connection.Response homepage = Jsoup.connect("https://www.novaragnarok.com/").userAgent(USER_AGENT)
                .method(Connection.Method.GET).timeout(6000).execute();

        Connection.Response login = Jsoup.connect("https://www.novaragnarok.com//?module=account&action=login&return_url=")
                .cookies(homepage.cookies()).data("txtbox", "stackoverflowww")
                .data("password", "stackpw").userAgent(USER_AGENT).method(Connection.Method.POST)
                .timeout(6000).execute();

        Connection.Response url2 = Jsoup.connect("https://www.novaragnarok.com/?module=vending&action=item&id=2499")
                .cookies(login.cookies()).userAgent(USER_AGENT).method(Connection.Method.GET).timeout(6000).execute();

     //Your Code here

    }catch (SocketException e){
        e.printStackTrace();
    }
    catch (UncheckedIOException e){
        e.printStackTrace();
    }
    catch(Exception e){

    }
 }
}