使用 ImportXml 在 Google 表格中抓取图片

时间:2021-04-23 09:24:30

标签: image xpath google-sheets scrape

使用 Google 表格,我尝试从房地产网站抓取图像,以显示在与房产详细信息一起的单元格中。我已经能够使用一个简单的示例证明这是可能的,但是当我尝试制定 xpath 查询来抓取我需要的特定图像时,我不断收到错误消息。

作为一个工作示例,我将使用 this webpage

我的示例中 ImportXML 命令中的单元格引用始终指向此 URL。

我想要的图像是滑块的一部分,很容易被它们的类识别:'rsImg rsMainSlideImage'

我尝试使用以下命令抓取滑块中的第一张图片:

=IMPORTXML(A2, "(//img[@class='rsImg rsMainSlideImage'])[1]/@src")

我不断收到错误:

<块引用>

"Imported content is empty"

为了诊断问题,我做了一个更简单的例子:

我可以使用以下 xPath 从页面(不是我的目标图像)获取第一张图像:

=IMPORTXML(A2, "(//img)[1]/@src")

这成功地显示了图像的 URL。

我可以通过将其包装在 image 命令中来在单元格中显示此图像:

=image(IMPORTXML(A2, "(//img)[1]/@src"))

这表明原则上我应该能够抓取图像并将其显示在单元格中。

但我无法选择我使用该类定位的图像而不会出错。 这是我使用的命令:

=IMPORTXML(A2, "(//img[@class='rsImg rsMainSlideImage'])[1]/@src")

除了根据 class 属性选择图像之外,我不确定我的示例有效和无效的示例之间有什么区别。

我将非常感谢任何支持以使其正常工作。

1 个答案:

答案 0 :(得分:0)

问题出在网站上

您的 xpath 看起来不错,但网站 HTML 不行!

如果您在此网站上使用 HTML 验证器:

https://validator.w3.org/nu/?doc=https%3A%2F%2Fwww.jelliscraig.com.au%2Fproperty-details-228A-Victoria-Street-Ballarat-East%2F1042039

您会看到它有一堆错误,对于 XML 最关键的是,它有杂散标签。因此,在大多数情况下,XML 解析器要么会感到困惑,要么将其视为无效而拒绝。

我尝试了一堆不同的 xpath,但在任何地方都找不到任何 img 标记,即使为所有 //* 制作 x 路径 - 这告诉我HTML 可能格式不正确,XML 解析器无法读取。

解决方法

=REGEXEXTRACT(
    IMPORTXML(
        "https://www.jelliscraig.com.au/property-details-228A-Victoria-Street-Ballarat-East/1042039",
        "/"
    ),
    "https:\/\/images\.listonce.+\.jpg"
)

通过 / x 路径的结果,我确实发现该链接似乎在其他几个地方被引用。也许这对于大多数站点来说都是一致的,而且很可能所有图像都以相同的 URL 格式提供:

https://images.listonce.com.au ... jpg

因此,使用此信息,您可以将 IMPORTXML 包裹在 REGEXEXTRACT 中,并使用松散的正则表达式,例如:

https:\/\/images\.listonce.+\.jpg

将返回,对于您提供的示例 URL:

<块引用>

https://images.listonce.com.au/custom/m/listings/228a-victoria-street-ballarat-east-vic-3350/039/01042039_img_01.jpg

这似乎是您正在寻找的图像。

应用脚本

也许可以查看Apps Script,特别是UrlFetchApp。使用这些工具,您将对获取的 HTML 拥有更多控制权,并为您提供更多抓取数据的选项。

这是相同过程的示例,但使用 Apps 脚本

function getImageUrl() {
  // Fetch the website
  let response = UrlFetchApp.fetch("https://www.jelliscraig.com.au/property-details-228A-Victoria-Street-Ballarat-East/1042039")
  // Get the text from the response
  let html = response.getContentText()
  // Use Regex to Match the Tag
  let result = html.match(/(?<=img src=.+)https:\/\/images.listonce.com.au\/.+\.jpg/)
  // Log the first result
  Logger.log(result[0])
}

哪个将记录https://images.listonce.com.au/custom/l/listings/228a-victoria-street-ballarat-east-vic-3350/039/01042039_img_01.jpg

参考资料