我使用以下代码将网页中的所有文字转换为List<string>
HtmlAgilityPack.HtmlDocument doc = new HtmlAgilityPack.HtmlDocument();
doc.LoadHtml(content);
foreach (var script in doc.DocumentNode.Descendants("script").ToArray())
script.Remove();
foreach (var style in doc.DocumentNode.Descendants("style").ToArray())
style.Remove();
foreach (HtmlAgilityPack.HtmlNode node in doc.DocumentNode.SelectNodes("//text()"))
{
string found = WebUtility.HtmlDecode(node.InnerText.Trim());
if (found.Length > 2) // removes some unwanted strings
query[item.Key].Add(found);
}
</form>
这样的字符串
有一个更好的方法来缩小这个代码,所以我只得到每个的文本
标签,没有其他或我将不得不仍然解析结果
删除&lt; *&gt;标签?答案 0 :(得分:4)
只需使用HAP中包含的功能即可轻松完成。
HtmlDocument doc = new HtmlWeb().Load("http://www.google.com");
List<string> words = doc.DocumentNode.DescendantNodes()
.Where(n => n.NodeType == HtmlNodeType.Text
&& !string.IsNullOrWhiteSpace(HtmlEntity.DeEntitize(n.InnerText))
&& n.ParentNode.Name != "style" && n.ParentNode.Name != "script")
.Select(n => HtmlEntity.DeEntitize(n.InnerText).Trim())
.Where(s => s.Length > 2).ToList();
结果是一个长度超过2且一切都已转义的单词列表,因此不需要WebUtility
。