使用python从URL提取标题

时间:2019-09-12 22:29:37

标签: python beautifulsoup urllib

我想使用urllib从以下html文档中提取标题。我在下面提供了开始部分:

html_doc = """
<!DOCTYPE html PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN"
      "http://www.w3.org/TR/html4/loose.dtd">
<html>
<head>
  <meta http-equiv="content-type" content="text/html; charset=iso-8859-1">
  <title>Three Little Pigs</title>
  <meta name="generator" content="Amaya, see http://www.w3.org/Amaya/">
</head>

<body>

我在urlopen中使用了urllib.request,但似乎html文档中的url类型不允许我提取任何内容。

我尝试过:

from bs4 import BeautifulSoup
from urllib.request import urlopen
def get_title():
    soup = urlopen(html_doc)
    print(soup.title.string)
get_title()

我得到的结果是:

ValueError: unknown url type: '!DOCTYPE html PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN"\n      "http://www.w3.org/TR/html4/loose.dtd">\n<html>\n<head>\n  <meta http-equiv="content-type" content="text/html; charset=iso-8859-1">\n  <title>Three Little Pigs</title>\n  <meta name="generator" content="Amaya, see http://www.w3.org/Amaya/">\n</head>\n\n<body'

有人可以帮助解决这个问题吗?

1 个答案:

答案 0 :(得分:2)

html_doc不是URL,它是实际的源代码字符串,您可以使用BeautifulSoup的{​​{1}}进行解析,然后从中提取标题:

html.parser

输出:

from bs4 import BeautifulSoup

def get_title():
    soup = BeautifulSoup(html_doc, 'html.parser')
    print(soup.title.string)

get_title()