使用Python列出在线目录中的所有文件?

时间:2012-12-09 09:24:05

标签: python download urllib2

您好我只是想知道我正在尝试创建一个从互联网上下载文件的python应用程序,但此刻它只下载一个文件,其名称我知道...有没有办法,我可以得到一个列表在线目录中的文件并下载它们?我告诉你我一次下载一个文件的代码,只是让你知道我不想做什么。

import urllib2

url = "http://cdn.primarygames.com/taxi.swf"

file_name = url.split('/')[-1]
u = urllib2.urlopen(url)
f = open(file_name, 'wb')
meta = u.info()
file_size = int(meta.getheaders("Content-Length")[0])
print "Downloading: %s Bytes: %s" % (file_name, file_size)

file_size_dl = 0
block_sz = 8192
while True:
    buffer = u.read(block_sz)
    if not buffer:
        break

    file_size_dl += len(buffer)
    f.write(buffer)
    status = r"%10d  [%3.2f%%]" % (file_size_dl, file_size_dl * 100. / file_size)
    status = status + chr(8)*(len(status)+1)
    print status,

f.close()

那么它是从这个网站下载taxi.swf的,但是我想要它是将所有.swf从该目录“/”下载到计算机上?

是否有可能并且非常感谢你们。 -Terrii -

1 个答案:

答案 0 :(得分:6)

由于您尝试一次下载大量内容,首先要查找网站索引或整齐列出您要下载的所有内容的网页。该网站的移动版本通常比桌面更轻,更容易刮伤。

本网站正是您所需要的:All Games

现在,这真的很简单。只是,提取所有游戏页面链接。我使用BeautifulSouprequests来执行此操作:

import requests
from bs4 import BeautifulSoup

games_url = 'http://www.primarygames.com/mobile/category/all/'

def get_all_games():
    soup = BeautifulSoup(requests.get(games_url).text)

    for a in soup.find('div', {'class': 'catlist'}).find_all('a'):
        yield 'http://www.primarygames.com' + a['href']

def download_game(url):
    # You have to do this stuff. I'm lazy and won't do it.

if __name__ == '__main__':
    for game in get_all_games():
        download_game(url)

剩下的由你决定。 download_game()根据游戏的网址下载游戏,因此您必须确定DOM中<object>标记的位置。