我在以下页面上有一个页面:
https://www.luckycheckout.com/goto/282/cs/1?ct=1
在头部包含以下代码行:
<meta name="robots" content="noindex, nofollow" />
我的“ robots.txt ”文件中也包含“ 不允许:/ goto ”。
尽管如此,Google Search Console仍在抱怨该页面为:
已编入索引,但已被robots.txt阻止
据我所知,一切都是正确和正确的,不应将其编入索引,有人可以解释google在抱怨什么吗?
谢谢
答案 0 :(得分:2)
您需要在robots.txt文件中删除此站点的Disallow
:
当Googlebot接下来抓取该页面并查看标签或标题时,无论其他网站是否链接到该页面,Googlebot都会从Google搜索结果中完全删除该页面。
重要提示:为使noindex指令生效,该页面不得被robots.txt文件阻止。如果该页面被robots.txt文件阻止,那么搜寻器将永远不会看到noindex指令,并且该页面仍可以出现在搜索结果中,例如,如果其他页面链接到该页面。
来源: https://support.google.com/webmasters/answer/93710
您还可以使用Google Search Console从Google索引中删除您拥有的网站。您可以在Google Webmaster documentation上找到更多信息。