你如何在python中使用大数组?

时间:2016-04-27 07:53:20

标签: python arrays cluster-computing

我需要在Sqlite数据库的python中创建一个大数组。它的大小为1000_000_000 * 1000_000_000,每个项目为1或0。实际上,我的电脑无法在RAM中存储这一数量的信息。也许有人知道如何在这种情况下工作?也许将这些载体存储在数据库中或者有一些类似需求的框架?如果我能够做到这一点,那么我需要构建集群,这个问题会让我感到害怕,而不是这个信息大小。 提前谢谢/

1 个答案:

答案 0 :(得分:0)

我还使用非常大的数据集(完整的基因组或所有可能的基因组合),并将它们存储在带有泡菜的压缩数据库中。通过这种方式,它具有高效率,并且使用的硬盘内存更少。 我建议你尝试一下。