故事:
问题是:我有4年的csv格式数据(5.5gb)。
答案 0 :(得分:0)
我的MySQL在存储方面没有限制,但你应该看看社区版本和付费版本之间的区别(即企业版本)。
我认为您通过为数据处理选择python做出了正确的选择。我还使用gigbit范围内的多个来源的数据,我使用python和MySQL。我建议你看看下面的python库:
顺便说一下,你绝对可以用python打开任何csv文件。只需提供路径并使用csv库(或只使用pandas)
是的,你可以自动化电子邮件到服务器的过程,请记住你需要使用像'os'这样的库。
此外,由于python社区,有很多有用的信息。对于初学者,您可以使用以下链接作为参考:
Import multiple csv files into pandas and concatenate into one DataFrame
如果您还需要使用python从Excel文件导入数据,pandas也可以这样做(或者您可以查看xlrd库)。