检查网址是否存在,不适用于某些网址

时间:2015-11-19 15:55:49

标签: c# httpwebrequest

我正在使用HttpWebRequest检查是否存在url。 问题是,它不适用于某些网址。
实施例:
http://www.gkrs.no/
https://www.politi.no/kripos/statistikk/narkotika/
这些网址存在。但是在代码中显示为不存在。 它适用于我正在检查的大部分网址,只是这两个引起了一些问题。有没有人有任何我需要检查的例子。也许他们的标题中有不同的东西。

我尝试了GET和HEAD请求方法。 我还是编程新手,可能需要更简单的解释。抱歉英语不好,不是我的第一语言。 任何帮助,将不胜感激。

internal static bool IsValidLenke(string url){

        if (String.IsNullOrEmpty(url))
            return false;
        try
        {
            HttpWebRequest request = WebRequest.Create(url) as HttpWebRequest;
            request.Method = "HEAD";
            HttpWebResponse response = request.GetResponse() as HttpWebResponse;
            response.Close();
            return (response.StatusCode == HttpStatusCode.OK);
        }
        catch
        {
            //Any exception will returns false.
            return false;
        }
}

1 个答案:

答案 0 :(得分:0)

http://www.gkrs.no/阻止您,因为您没有提供有效的用户代理。 https://www.politi.no/kripos/statistikk/narkotika/不接受“HEAD”,然后向您发送大量重定向信息,因此您需要一个cookie容器以避免陷入无限循环。

做这样的事情:

HttpWebRequest request = WebRequest.Create(url) as HttpWebRequest;
request.MaximumAutomaticRedirections = 100;
request.AllowAutoRedirect = true;
request.CookieContainer = new CookieContainer();
request.Method = "GET";                
request.UserAgent = " Mozilla/5.0 (Windows NT 10.0; Win64; x64)";
HttpWebResponse response = request.GetResponse() as HttpWebResponse;
response.Close();