Question

我正在尝试使用astropy.io.fits

将几千个FITS加载到内存中

def readfits(filename):
    with fits.open(filename) as ft:
        # the fits contain a single HDU
        data = ft[0].data
    return data

data_sci = []
for i in range(2000):
    data_sci.append(readfits("filename_{}.fits".format(i)))

但是，当到达第1015个文件时，会引发OSError: [Errno 24] Too many open files。

我遇到同样的问题：

def readfits(filename):
    ft = fits.open(filename) as ft:
    data = ft[0].data
    ft.close()
    return data

我怀疑astropy.io.fits没有正确关闭文件。有没有我可以强制关闭文件吗？

Answer 1

在看了天文数据后，我发现了这个：http://astropy.readthedocs.org/en/latest/io/fits/appendix/faq.html#i-m-opening-many-fits-files-in-a-loop-and-getting-oserror-too-many-open-files

Answer 2

您的readfits函数实际上保持文件句柄处于打开状态以便保持对数据的访问，因为默认情况下它会为数据创建mmap并且不会将其完全读入物理内存，如解释：http://astropy.readthedocs.org/en/latest/io/fits/appendix/faq.html#i-m-opening-many-fits-files-in-a-loop-and-getting-oserror-too-many-open-files

顺便提一下，如果您只想要一个从第一个HDU中读取数据的函数，那么它已经内置：http://docs.astropy.org/en/v1.0.5/io/fits/api/files.html#astropy.io.fits.getdata

没有必要重新发明轮子。

Answer 3

只要有内存，就可以调用此函数并存储其输出。我认为值得明确提及答案但信用额度归Iguananaut，bkaf和this page。

def get_single_fits_data(fits_dir):

    hdul  = fits.open(fits_dir)
    for hdu in hdul:
        image_data = hdu.data.copy()
    hdul.close()
    gc.collect()

    return image_data

使用astropy.io读取一堆FITS时出现OSError 24（打开的文件太多）

3 个答案: