用美丽的汤刮地

时间:2020-04-15 22:28:47

标签: python web-scraping beautifulsoup

我是网络爬网的新手。我无法从网页中获取字段(用户名)。

这是网页HTML,其中包含我感兴趣的字段。

        <div class="block-body">
          <div class="block-row block-row--separated">
          <div class="block-row block-row--separated">
            <dl class="pairs pairs--columns pairs--fixedSmall">
            <dl class="pairs pairs--columns pairs--fixedSmall">
            <dl class="pairs pairs--columns pairs--fixedSmall">
            <dl class="pairs pairs--columns pairs--fixedSmall">
            <dl class="pairs pairs--columns pairs--fixedSmall">
            <dl class="pairs pairs--columns pairs--fixedSmall">
            <dl class="pairs pairs--columns pairs--fixedSmall">
              <dt>YouTube Username</dt>
                            <dd>



                              GET_THIS_FIELD



                            </dd>
                          </dl>



            <dl class="pairs pairs--columns pairs--fixedSmall">

以下是我面临的问题:

  1. 我无法提取该字段,因为存在多个具有相同类的对象,text选项不起作用,并且我也不知道如何找到解决方案。

  2. 由于我所访问的所有页面中都不存在YOUTUBE USERNAME字段,因此我需要包含一个控件。

我尝试了一切,这只是最后一次尝试。

        profile_content = profile.content 
        soup2 = BeautifulSoup(profile_content, features="lxml") 
        if soup2.find(text=re.compile('^YouTube Username$')): 
          user_channel = soup2.find("dl", {'class': 'pairs pairs--columns pairs--fixedSmall'}).find_next_siblings('dd')
        else: 
          user_channel = "none"

谢谢您的帮助!

1 个答案:

答案 0 :(得分:0)

假设HTML代码正确,我可以提供以下答案:

# data is the HTML code as string
soup = BeautifulSoup(data, 'html.parser')

the_field = soup.find('dt', string='YouTube Username').find_next('dd').text.strip()

print(the_field)

出于安全考虑,您可以添加测试(如果找到了字符串),希望这对您有所帮助。