Question

我一直在阅读整天用python解析xml，但是看看我需要提取数据的网站，我不确定我是不是在咆哮错误的树。基本上我想从超市网站（在图像名称中找到）获得13位数的条形码。例如：

http://www.tesco.com/groceries/SpecialOffers/SpecialOfferDetail/Default.aspx?promoId=A31033985

有11个项目和11个图像，第一个项目的条形码是0000003235676.但是当我查看页面源代码时（我认为这是使用python，urllib和beautifulsoup一次性提取所有条形码的最佳方法）所有条形码都在一行（第12行），但数据似乎没有像我期望的那样在元素和属性方面构建。

    new TESCO.sites.UI.entities.Product({name:"Lb Mens Mattifying Dust 7G",xsiType:"QuantityOnlyProduct",productId:"275303365",baseProductId:"72617958",quantity:1,isPermanentlyUnavailable:true,imageURL:"http://img.tesco.com/Groceries/pi/805/5021320051805/IDShot_90x90.jpg",maxQuantity:99,maxGroupQuantity:0,bulkBuyLimitGroupId:"",increment:1,price:2.5,abbr:"g",unitPrice:3.58,catchWeight:"0",shelfName:"Mens Styling",superdepartment:"Health & Beauty",superdepartmentID:"TO_1448953606"});
new TESCO.sites.UI.entities.Product({name:"Lb Mens Thickening Shampoo 250Ml",xsiType:"QuantityOnlyProduct",productId:"275301223",baseProductId:"72617751",quantity:1,isPermanentlyUnavailable:true,imageURL:"http://img.tesco.com/Groceries/pi/225/5021320051225/IDShot_90x90.jpg",maxQuantity:99,maxGroupQuantity:0,bulkBuyLimitGroupId:"",increment:1,price:2.5,abbr:"ml",unitPrice:1,catchWeight:"0",shelfName:"Mens Shampoo ",superdepartment:"Health & Beauty",superdepartmentID:"TO_1448953606"});
new TESCO.sites.UI.entities.Product({name:"Lb Mens Sculpting Puty 75Ml",xsiType:"QuantityOnlyProduct",productId:"275301557",baseProductId:"72617906",quantity:1,isPermanentlyUnavailable:true,imageURL:"http://img.tesco.com/Groceries/pi/287/5021320051287/IDShot_90x90.jpg",maxQuantity:99,maxGroupQuantity:0,bulkBuyLimitGroupId:"",increment:1,price:2.5,abbr:"ml",unitPrice:3.34,catchWeight:"0",shelfName:"Pastes, Putty, Gums, Pomades",superdepartment:"Health & Beauty",superdepartmentID:"TO_1448953606"});

也许像BeautifulSoup这样的东西有点矫枉过正？我理解DOM树与原始源不同，但为什么它们如此不同 - 当我去检查firefox中的元素时，数据看起来像我期望的那样构造。

道歉，如果这是非常愚蠢的，请提前感谢。

Answer 1

不幸的是，条形码在HTML中没有作为结构化数据给出;它只显示为URL的一部分。因此，我们需要隔离URL，然后使用字符串操作选择条形码：

import urllib2
import bs4 as bs
import re
import urlparse

url = 'http://www.tesco.com/groceries/SpecialOffers/SpecialOfferDetail/Default.aspx?promoId=A31033985'

response = urllib2.urlopen(url)
content = response.read()
# with open('/tmp/test.html', 'w') as f:
#     f.write(content)
# Useful for debugging off-line:
# with open('/tmp/test.html', 'r') as f:
#     content = f.read()
soup = bs.BeautifulSoup(content)
barcodes = set()
for tag in soup.find_all('img', {'src': re.compile(r'/pi/')}):
    href = tag['src']
    scheme, netloc, path, query, fragment = urlparse.urlsplit(href)
    barcodes.add(path.split('\\')[1])

print(barcodes)

产量

set(['0000003222737', '0000010039670', '0000010036297', '0000010008393', '0000003050453', '0000010062951', '0000003239438', '0000010078402', '0000010016312', '0000003235676', '0000003203132'])

Answer 2

由于您的网站使用javascript格式化其内容，您可能会发现从urllib到Selenium等工具的有用切换。这样，您可以在为具有Web浏览器的真实用户呈现页面时对其进行爬网。这github project似乎可以解决您的任务。

其他选项将从页面javascript脚本中过滤掉json数据并直接从那里获取数据。

在python中解析xml - 不了解DOM

2 个答案: