提取存储的html文件的URL

时间:2015-05-19 09:09:00

标签: python urllib2 bs4

我存储了一些html文件并重命名了它们。有没有办法在python中提取html文件的URL。

编辑: 我希望找到.html文件的URL而不是其中的链接。我正在寻找一种通用的方法,因为我有很多文件。

1 个答案:

答案 0 :(得分:5)

只有文件本身包含该URL时才有可能,这不常见。所以这取决于您下载的文件。寻找<link rel="canonical" ...>,因为这是搜索引擎recommend将规范地址发布到网页的方式。如果他们有该标签,您可以使用该网址。

否则你运气不好。您应该重写蜘蛛以将URL与文档一起保存。