PHP Xpath Scrape可能的命名空间问题

时间:2012-10-09 14:29:36

标签: php javascript xpath namespaces

更新:源代码与开发人员工具显示的完全不同。

查看来源:view-source:http://www.machinerytrader.com/list/list.aspx?ETID = 1& catid = 1002

是否需要将浏览器呈现为html的javascript?如果是这样,我怎么能有PHP做这个过程,以便我有解析的Html?很奇怪你可以使用Xpath Checker返回我正在寻找的项目(见下文),但是你无法访问完整的html!

(Xpath:// table [contains(@ id,'ctl00_ContentPlaceHolder1')和(包含(@id,“tblContent”)或包含(@id,“tblListingHeader”))])

END UPDATE

我需要从本网站获取一些信息,以便定期工作。我试图编写一些PHP代码来抓取这些数据。我想我在这里有一些命名空间问题,已经在SO上阅读了其他一些帖子。我之前从未遇到过命名空间问题,并且使用了另一个SO帖子上显示的方法(无济于事:()。

看起来xpath查询不会因任何原因发生。如果您对如何处理此问题有任何猜测或解决方案,我愿意接受建议。

此处还有我的代码输出:

object(DOMXPath)#2 (0) {
}
Debug 1
array(0) {
}
array(0) {
}

我遗漏了我在var_dump testarray和create和var_dump otherarray的代码的底部。它们的输出包括在上面。显然,如果DOMXPath元素的长度为0,则两个数组将为空。

$string = 'http://www.machinerytrader.com/list/list.aspx?ETID=1&catid=1002';

$machine_trader = file_get_contents($string);
$xml = new DOMDocument();
$xml->loadHTML($machine_trader);

$xpath = new DOMXPath($xml);

$rootNamespace = $xml->lookupNamespaceUri($xml->namespaceURI); 
$xpath->registerNamespace('x', $rootNamespace); 

$tableRows = $xpath->query("//x:table[contains(@id, 'ctl00_ContentPlaceHolder1') and (contains(@id,'tblContent') or contains(@id,'tblListingHeader'))]");

var_dump($xpath);

$testarray = array();
$otherarray = array();

foreach ( $tableRows as $row )
{

        echo "Debug 1"."\n";

        $testarray[] = $row->nodeValue;

}

1 个答案:

答案 0 :(得分:1)

这不是XPath问题,因为实际内容是从您尚未到达的表单帖子中找到的。这里的JS源代码只是为信息请求验证正确的“用户”,然后通过表单提交发送请求。

在每个请求中,salt / encryption'key'被随机化并更改,从而阻止了简单的擦除。

您可以将JavaScript重写为PHP,然后发出两个请求,并在此过程中与身份验证过程作斗争。

或者,您可以将您的抓取切换到NodeJS并使用类似PhantomJS之类的内容,因为它可以评估javascript但是可以为您提供编程访问。鉴于此任务的复杂性,使用正确的工具会更简单。