标签: url web-crawler subdirectory
我想知道以下是否可行:
我有一个URL,它本质上是一个包含一堆子目录和单个文件的目录。我可以找到其中一些文件和子目录,但不是全部。我怎么能找到其余的?
如果可能,我需要哪些软件和/或其他信息?
另一种方法是下载给定URL中包含的所有子目录和文件(如果可能的话)。
P.S。我不拥有服务器,所以我无法完全了解目录结构。