刮多页并制作表格

时间:2018-10-12 00:25:27

标签: powershell web-scraping webrequest

我一直在试图找到一种方法来轻松地从网站上成功地抓取数据,并且发现使用Powershell可以为我提供所需的结果,尽管我只能说出如何做到这一点。

URL从www.example.com/Item/1www.example.com/Item/40,并显示表单中的数据。

我使用了以下命令:

$WebResponse = Invoke-WebRequest "www.example.com/Item/1"

$WebResponse.Forms.Fields

我得到的结果正是我所需要的,但是我希望能够在所有40页中做到这一点,并从中得到一个可读的表。

我真的对与powershell有关的任何事情都不熟悉,所以我假设我正在寻找一些东西。

2 个答案:

答案 0 :(得分:0)

只需循环将其卡住:

for ( $i = 1; $i -lt 40; $i++ ) {
    $WebResponse = Invoke-WebRequest "www.example.com/Item/$i"
    $WebResponse.Forms.Fields
}

答案 1 :(得分:0)

另一种可能的编写方式:

$start = 1
$end = 40

$start..$end | select { 
   $WebResponse = Invoke-WebRequest "www.example.com/Item/$_"
   $WebResponse.Forms.Fields
}