Question

在以下页面中：

http://www.amazon.com/Jessica-Simpson-Womens-Double-Breasted/dp/B00K65ZMCA/ref=sr_1_4_mc/185-0705108-6790969?s=apparel&ie=UTF8&qid=1413083859&sr=1-4 我试图用表达式

来获得价格

'//span[@id="priceblock_ourprice"]'

但结果是一个空变量。

有趣的是，在其他亚马逊页面中，就像这一样：http://www.amazon.com/SanDisk-Cruzer-Frustration-Free-Packaging--SDCZ36-032G-AFFP/dp/B007JR532M/ref=sr_1_1?s=pc&ie=UTF8&qid=1413084653&sr=1-1&keywords=usb

我有一个有效的表达式

'//b[@class="priceLarge"]'

但我甚至不知道为什么，因为在页面的来源我找不到这样的标签...... 那它为什么有效呢？如何在第一页上获得价格？谢谢！

Answer 1

使用PHP进行抓取时，您不能仅仅将浏览器源中看到的内容视为理所当然。

相反，您首先需要使用PHP获取内容，然后查看源代码：

$url    = 'http://www.amazon.com/ ... ';
$buffer = file_get_contents($url);

变量$buffer则包含您将要抓取的HTML。

完成后，您的示例链接会显示第一个和第二个地址都包含.priceLarge元素，其中可能包含您要查找的内容：

<span class="priceLarge">$168.00</span>
<b class="priceLarge">$14.99</b>

在找到您要查找的数据后，您可以创建 DOMDocument ：

$doc          = new DOMDocument();
$doc->recover = true;
$saved        = libxml_use_internal_errors(true);
$doc->loadHTML($buffer);

您可能也对解析错误感兴趣：

/** @var array|LibXMLError[] $errors */
$errors = libxml_get_errors();
foreach ($errors as $error) {
    printf(
        "%s: (%d) [%' 3d] #%05d:%' -4d %s\n", get_class($error), $error->level, $error->code, $error->line,
        $error->column, rtrim($error->message)
    );
}
libxml_use_internal_errors($saved);

因为这是 DOMDocument 告诉您问题出现的方式。例如，重复的ID值。

将缓冲区加载到 DOMDocument 后，您可以创建 DOMXPath ：

$xp = new DOMXPath($doc);

您将使用它从文档中获取实际值。

例如，这两个示例地址HTML表示您要查找的信息是#priceBlock，其中包含.listprice和.priceLarge：

$priceBlock = $doc->getElementById('priceBlock');
printf(
    "List Price: %s\nPrice: %s\n"
    , $xp->evaluate('string(.//*[@class="listprice"])', $priceBlock)
    , $xp->evaluate('string(.//*[@class="priceLarge"])', $priceBlock)
);

这将产生以下输出：

List Price: $48.99
Price: $14.99

如果您遗漏了某些内容，在示例中将{} {}}变量中的父节元素作为$priceBlock获取，不仅可以让您使用Xpath的相对路径，还可以帮助调试以防丢失一些更详细的信息：

echo $doc->saveHTML($priceBlock);

这会输出包含所有定价信息的整个<div>，例如。

如果您自己设置了一些辅助类，您可以进一步使用它来从文档中获取其他有用的信息以进行抓取，例如显示价格块中的所有标记/类组合：

// you can find StringCollector at the end of the answer
$tagsWithClass = new StringCollector();
foreach ($xp->evaluate('.//*/@class', $priceBlock) as $class) {
    $tagsWithClass->add(sprintf("%s.%s", $class->parentNode->tagName, $class->value));
}
echo $tagsWithClass;

然后输出收集的字符串列表及其计数，这里是带有类属性值的标记名：

table.product (1)
td.priceBlockLabel (3)
span.listprice (1)
td.priceBlockLabelPrice (1)
b.priceLarge (1)
tr.youSavePriceRow (1)
td.price (1)

如您所见，这是来自第一个示例网址，因为.pricelarge带有<b>元素。

这是一个相对简单的帮助器，对于抓取你可以做更多的事情，比如以树的形式显示整个HTML结构。

DomTree::dump($priceBlock);

它会为您提供以下输出，这样可以比DOMDocument::saveHTML($node)更好地消费：

`<div id="priceBlock" class="buying">
  +"\n\n  "
  `<table class="product">
    +<tr>
    | +<td class="priceBlockLabel">
    | | `"List Price:"
    | +"\n    "
    | +<td>
    | | `<span id="listPriceValue" class="listprice">
    | |   `"$48.99"
    | `"\n  "
    +<tr id="actualPriceRow">
    | +<td id="actualPriceLabel" class="priceBlockLabelPrice">
    | | `"Price:"
    | +"\n    "
    | +<td id="actualPriceContent">
    | | +<span id="actualPriceValue">
    | | | `<b class="priceLarge">
    | | |   `"$14.99"
    | | +"\n    "
    | | `<span id="actualPriceExtraMessaging">
    | |   +"\n        \n\n\n    "
    | |   +<span>
    | |   | `"\n        \n    "
    | |   +"\n    \n\n\n\n\n\n\n\n\n\n    \n\n\n\n\n\n \n\n\n\n\n& "
    | |   +<b>
    | |   | `"FREE Shipping"
    | |   +" on orders over $35.\n\n\n\n"
    | |   +<a href="/gp/help/customer/display.html/ref=mk_sss_dp_1/191-4381493-1931545?ie=UTF8&no...">
    | |   | `"Details"
    | |   `"\n\n\n\n\n\n\n\n\n    \n\n    \n    \n\n\n\n\n\n      \n"
    | `"\n"
    +<tr id="dealPriceRow">
    | +<td id="dealPriceLabel" class="priceBlockLabel">
    | | `"Deal Price: "
    | +"\n  "
    | +<td id="dealPriceContent">
    | | +"\n    "
    | | +<span id="dealPriceValue">
    | | +"\n    "
    | | +<span id="dealPriceExtraMessaging">
    | | `"\n  "
    | `"\n"
    +<script>
    | `[XML_CDATA_SECTION_NODE (4)]
    +<tr id="youSaveRow" class="youSavePriceRow">
    | +<td id="youSaveLabel" class="priceBlockLabel">
    | | `"You Save:"
    | +"\n    "
    | +<td id="youSaveContent" class="price">
    | | +<span id="youSaveValue">
    | | | `"$34.00\n        (69%)"
    | | `"\n    "
    | `"\n  "
    `<tr>
      +<td>
      `<td>
        `<span>
          `"o o o o o o o o o o o o o o o o o o o o o o o o o o o o o o o o o o o o o o o..."

您可以在an answer to Debug a DOMDocument Object in PHP和another one中找到它。 code is available on github as a gist。

StringCollector 辅助类

/**
 * Class StringCollector
 *
 * Collect strings and count them
 */
class StringCollector implements IteratorAggregate
{
    private $array;

    public function add($string)
    {
        $entry = & $this->array[$string];
        $entry++;
    }

    public function getIterator()
    {
        return new ArrayIterator($this->array);
    }

    public function __toString()
    {
        $buffer = '';
        foreach ($this as $string => $count) {
            $buffer .= sprintf("%s (%d)\n", $string, $count);
        }
        return $buffer;
    }
}

使用Xpath从亚马逊获得价格

1 个答案: