更新:源代码与开发人员工具显示的完全不同。
查看来源:view-source:http://www.machinerytrader.com/list/list.aspx?ETID = 1& catid = 1002
是否需要将浏览器呈现为html的javascript?如果是这样,我怎么能有PHP做这个过程,以便我有解析的Html?很奇怪你可以使用Xpath Checker返回我正在寻找的项目(见下文),但是你无法访问完整的html!
(Xpath:// table [contains(@ id,'ctl00_ContentPlaceHolder1')和(包含(@id,“tblContent”)或包含(@id,“tblListingHeader”))])
END UPDATE
我需要从本网站获取一些信息,以便定期工作。我试图编写一些PHP代码来抓取这些数据。我想我在这里有一些命名空间问题,已经在SO上阅读了其他一些帖子。我之前从未遇到过命名空间问题,并且使用了另一个SO帖子上显示的方法(无济于事:()。
看起来xpath查询不会因任何原因发生。如果您对如何处理此问题有任何猜测或解决方案,我愿意接受建议。
此处还有我的代码输出:
object(DOMXPath)#2 (0) {
}
Debug 1
array(0) {
}
array(0) {
}
我遗漏了我在var_dump testarray和create和var_dump otherarray的代码的底部。它们的输出包括在上面。显然,如果DOMXPath元素的长度为0,则两个数组将为空。
$string = 'http://www.machinerytrader.com/list/list.aspx?ETID=1&catid=1002';
$machine_trader = file_get_contents($string);
$xml = new DOMDocument();
$xml->loadHTML($machine_trader);
$xpath = new DOMXPath($xml);
$rootNamespace = $xml->lookupNamespaceUri($xml->namespaceURI);
$xpath->registerNamespace('x', $rootNamespace);
$tableRows = $xpath->query("//x:table[contains(@id, 'ctl00_ContentPlaceHolder1') and (contains(@id,'tblContent') or contains(@id,'tblListingHeader'))]");
var_dump($xpath);
$testarray = array();
$otherarray = array();
foreach ( $tableRows as $row )
{
echo "Debug 1"."\n";
$testarray[] = $row->nodeValue;
}
答案 0 :(得分:1)
这不是XPath问题,因为实际内容是从您尚未到达的表单帖子中找到的。这里的JS源代码只是为信息请求验证正确的“用户”,然后通过表单提交发送请求。
在每个请求中,salt / encryption'key'被随机化并更改,从而阻止了简单的擦除。
您可以将JavaScript重写为PHP,然后发出两个请求,并在此过程中与身份验证过程作斗争。
或者,您可以将您的抓取切换到NodeJS并使用类似PhantomJS之类的内容,因为它可以评估javascript但是可以为您提供编程访问。鉴于此任务的复杂性,使用正确的工具会更简单。