如果该网址具有特定的网址变量,有没有办法阻止抓取工具的网址?

时间:2021-01-18 14:16:27

标签: html web robots.txt

我试图阻止所有抓取工具访问任何带有特定变量的 URL,因为 Google 将其索引重复。

以下是一些示例: https://www.mywebsite.com/category/product1.html?mp=1 https://www.mywebsite.com/category/product1.html

https://www.mywebsite.com/category/product2.html?mp=1 https://www.mywebsite.com/category/product2.html

那是我想要阻止的“mp=1”吗。

0 个答案:

没有答案