查找带有特定文本硒python的所有元素

时间:2019-09-11 18:39:22

标签: python selenium selenium-webdriver beautifulsoup

我正在尝试与每个站点上带有联系电话的元素联系起来。我能够创建例程以获取电话号码,提取可用格式的联系电话以及 regex 和以下代码片段以获取元素

    contact_elem = browser.find_elements_by_xpath("//*[contains(text(), '" + phone_num + "')]")

https://www.cssfirm.com/为例,联系电话出现在两个位置,顶部标题底部页脚

联系电话随附的元素文本如下:

    <h3>CALL US TODAY AT (855) 910-7824</h3> - Footer
    <a href="tel:8559107824"> <span>Call Us<br>Today</span>&nbsp;&nbsp;(855) 910-7824</a> - Header

提取的电话号码在打印时完全匹配。由于某些原因,未检测到标题部分中的元素。

在执行其余代码之前,我尝试通过从浏览器中搜索元素,甚至是删除脚注元素来。

它未被发现的原因可能是什么?

P.S::下面是业余代码,未经更正。欢迎进行效率编辑/建议。相同的代码已经在各种站点上进行了测试,并且运行良好。

url = 'http://www.cssfirm.com/'
browser.get(url)

parsed = browser.find_element_by_tag_name('html').get_attribute('innerHTML')
s = BeautifulSoup(parsed, 'html.parser')
s = s.decode('utf-8')
phoneNumberRegex = '(\s*(?:\+?(\d{1,4}))?[-. (]*(\d{1,})[-. )]*(\d{3}|[A-Z0-9]+)[-. \/]*(\d{4}|[A-Z0-9]+)[-. \/]?(\d{4}|[A-Z0-9]+)?(?: *x(\d+))?\s*)'
custom_re = ['([0-9]{4,4} )([0-9]{3,3} )([0-9]{4,4})',
             '([0-9]{3,3} )([0-9]{4,4} )([0-9]{4,4})',
             '(\+[0-9]{2,2}-)([0-9]{4,4}-)([0-9]{4,4}-)(0)',
             '(\([0-9]{3,3}\) )([0-9]{3,3}-)([0-9]{4,4})',
             '(\+[0-9]{2,2} )(\(0\)[0-9]{4,4} )([0-9]{4,6})',
             '([0-9]{5,5} )([0-9]{6,6})',
             '(\+[0-9]{2,2}\(0\))([0-9]{4,4} )([0-9]{4,4})',
             '(\+[0-9]{2,2} )([0-9]{3,3} )([0-9]{4,4} )([0-9]{3,3})',
             '([0-9]{3,3}-)([0-9]{3,3}-)([0-9]{4,4})']

phones = []
phones = re.findall(phoneNumberRegex, s)
phone_num_list = ()
phone_num = ''
matched = 0

for phoneHeader in phones:
    #phoneHeader = phoneHeader.decode('utf-8')
    for ph_cnd in phoneHeader:
        for pttrn in custom_re:
            phones = re.findall(pttrn,ph_cnd)
            if(phones):
                phone_num_list = phones
                for x in phone_num_list:
                    phone_num = ''.join(x)
                try:
                    contact_elem = browser.find_element_by_xpath("//*[contains(text(), '" + phone_num + "')]")
                    phone_num_txt = contact_elem.text
                    if(phone_num_txt):
                        matched = 1
                        break
                except NoSuchElementException:
                    pass
                if(matched == 1):
                    break
        if(matched == 1):
            break
    if(matched == 1):
        break

print("Phone number :",phone_num) <-- Perfect output
contact_elem <--empty for header or just the footer element

编辑

代码已更新。忘记了重要的一块。此外,在它们之间有睡眠时间,以给页面加载时间。考虑到这很琐碎,我没有将它们包括在内以供快速阅读。

1 个答案:

答案 0 :(得分:0)

我通过搜索部分链接文本找到了一个临时解决方案,因为链接上也有数字。

    contact_elem2 = browser.find_element_by_partial_link_text(phone_num)

但是,这不能回答关于为什么在元素内忽略该文本的一般性问题。