Question

在这里，我试图阅读网址并在页面中获取图像。我需要排除页面，如果它是404并停止从404错误页面获取图像。如何使用HtmlAgilityPack？这是我的代码

var document = new HtmlWeb().Load(completeurl);
var urls = document.DocumentNode.Descendants("img")
          .Select(e => e.GetAttributeValue("src", null))
          .Where(s => !String.IsNullOrEmpty(s)).ToList();

Answer 1

您需要在PostRequestHandler实例上注册HtmlWeb事件，它将在每个下载的文档之后引发，您将可以访问HttpWebResponse对象。它具有StatusCode的属性。

 HtmlWeb web = new HtmlWeb();
 HttpStatusCode statusCode = HttpStatusCode.OK;
 web.PostRequestHandler += (request, response) =>
 {
     if (response != null)
     {
         statusCode = response.StatusCode;
     }
 }

 var doc = web.Load(completeUrl)
 if (statusCode == HttpStatusCode.OK)
 {
     // received a read document
 }

查看GutHub上HtmlAgilityPack的代码，它更简单，HtmlWeb有一个属性StatusCode，其值设置为：

var web = new HtmlWeb();
var document = web.Load(completeurl);

if (web.StatusCode == HttpStatusCode.OK)
{
    var urls = document.DocumentNode.Descendants("img")
          .Select(e => e.GetAttributeValue("src", null))
          .Where(s => !String.IsNullOrEmpty(s)).ToList();
}

更新

AgilityPack API已有更新。诀窍仍然是相同的：

var htmlWeb = new HtmlWeb();
var lastStatusCode = HttpStatusCode.OK;

htmlWeb.PostResponse = (request, response) =>
{
    if (response != null)
    {
        lastStatusCode = response.StatusCode;
    }
};

Answer 2

请注意您使用的版本！

我正在使用HtmlAgilityPack v1.5.1并且没有PostRequestHandler事件。

在v1.5.1中必须使用PostResponse字段。见下面的例子。

var htmlWeb = new HtmlWeb();
var lastStatusCode = HttpStatusCode.OK;

htmlWeb.PostResponse = (request, response) =>
{
    if (response != null)
    {
        lastStatusCode = response.StatusCode;
    }
};

差异不大但仍然存在差异。

希望这会节省一些时间。

如何使用HtmlAgilityPack检查它是否是404错误页面（页面不存在）

2 个答案:

更新