使用一致的URL结构在网页中查询变量实体

时间:2015-04-17 10:41:39

标签: web-services wikidata

有人请帮助我了解如何向我的程序注入this webpage的查询吗?

需要设置两个参数,即

"网站:",是您输入语言和网站代码的地方。

&安培;

" Page:",您必须输入所连接网站上显示的网页的确切标题。

网址总是如下所示:

https://www.wikidata.org/wiki/Special:ItemByTitle?site=en&page=Mikhail+Bakunin&submit=Search

https://www.wikidata.org/wiki/Special:ItemByTitle?site=en&page=Thomas+Edward+Lawrence&submit=Search

并且语言总是英语,所以你看,它只是:

https://www.wikidata.org/wiki/Special:ItemByTitle?site=en&page=布拉赫+布拉赫 &submit=Search

查询该页面的目的是检索与该页面关联的ID值,因此Mikhail Bakunin Q27645T. E. Lawrence Q170596 https://www.wikidata.org/w/index.php?title=Q170596&site=en&page=Thomas+Edward+Lawrence&submit=Search { {1}}

一旦到达页面,它就会成为URL的一部分:

import java.net.*;
import java.io.*;

public class URLConnectionReader 
{
    public static void main(String[] args) throws Exception 
    {
        URL site = new URL("https://www.wikidata.org/wiki/Special:ItemByTitle?site=en&page=Mikhail+Bakunin&submit=Search");
        URLConnection yc = site.openConnection();
        BufferedReader in = new BufferedReader(
                                new InputStreamReader(
                                yc.getInputStream()));
        String inputLine;

        while ((inputLine = in.readLine()) != null) 
            System.out.println(inputLine);
        in.close();
    }
}

但也许我可以使用beautifulSoup或soemthng从页面中删除它?(这是一个猜测)

该程序需要是可推广的,也就是说,我们正在搜索的实体的名称是可变的,它将在程序中发生变化,因此需要考虑。

我想使用python或php或者某些内容如果它更容易对人类犯罪,虽然我更喜欢java。

更新

<!-- wikibase-toolbar --><span class="wikibase-toolbar-container"><span class="wikibase-toolbar-item wikibase-toolbar ">[<span class="wikibase-toolbar-item wikibase-toolbar-button wikibase-toolbar-button-edit"><a href="/wiki/Special:SetSiteLink/Q27645">edit</a></span>]</span></span>

这种工作有点,但结果很混乱。

我想我可以抓住这件事:

{{1}}

但是如何?

1 个答案:

答案 0 :(得分:1)

当您请求this网址时,回复为:

HTTP/1.1 302 forced.302
Server: Apache
X-Powered-By: HHVM/3.3.1
Expires: Thu, 01 Jan 1970 00:00:00 GMT
Vary: Accept-Encoding,X-Forwarded-Proto,Cookie
X-Content-Type-Options: nosniff
Location: http://www.wikidata.org/w/index.php?title=Q27645&site=en&page=Mikhail+Bakunin&submit=Search
Content-Type: text/html; charset=utf-8
X-Varnish: 1641959068, 1690824779, 1606045625
Via: 1.1 varnish, 1.1 varnish, 1.1 varnish
Transfer-Encoding: chunked
Date: Fri, 17 Apr 2015 11:49:55 GMT
Age: 0
Connection: keep-alive
X-Cache: cp1054 miss (0), cp3003 miss (0), cp3013 frontend miss (0)
Cache-Control: private, s-maxage=0, max-age=0, must-revalidate
Set-Cookie: GeoIP=NL:XXX:51.4400:5.6194:v4; Path=/; Domain=.wikidata.org

302 redirect中有一个HTTP response headers那个,你想要抓住你的Q号码。 Simlpy regex it out of the Location header使用正则表达式:

^Location:.*?title=(Q[0-9]+)

...并使用matchgroup 1(应为Q27645)。

要抓取HTTP标头,请查看this page;它基本上就像:

URL obj = new URL("https://www.wikidata.org/wiki/Special:ItemByTitle?site=en&page=Mikhail%20Bakunin&submit=Search");
URLConnection conn = obj.openConnection();

//get header by 'key'
String location = conn.getHeaderField("Location");

//TODO: Regex here