我可以在robots.txt中引用动态生成的站点地图吗?

时间:2019-03-25 18:09:11

标签: dynamic sitemap robots.txt

我正在为我的网站设置站点地图,而我所做的是创建一个为站点生成站点地图的端点。

如果我将我的API的网址放在robots.txt上,那么爬虫程序机器人可以访问它并获取站点地图,还是不发送API请求?

0 个答案:

没有答案