使用python自动更新构建在线安全数据库?

时间:2016-10-22 13:33:46

标签: python mysql database

故事:

  • 我已经用vba excel编写了多年来创建财务模型。
  • 我已经超越了它,并且正朝着正在学习的蟒蛇方向转向。
  • 每天我都有一个5.5mb的csv,我想上传到我还没有建成的数据库。
  • 除非有人有其他建议,否则看起来似乎是MySQL。

问题是:我有4年的csv格式数据(5.5gb)。

  • 数据库构建的表大小是否有限制?
  • 我应该考虑另一个数据库平台吗?
  • 我可以使用python构建一个自动化模块来打开一个csv文件(转储到我的服务器或电子邮件中)然后更新mysql中的表吗?

1 个答案:

答案 0 :(得分:0)

我的MySQL在存储方面没有限制,但你应该看看社区版本和付费版本之间的区别(即企业版本)。

我认为您通过为数据处理选择python做出了正确的选择。我还使用gigbit范围内的多个来源的数据,我使用python和MySQL。我建议你看看下面的python库:

  • SQLAlchemy的
  • 熊猫

顺便说一下,你绝对可以用python打开任何csv文件。只需提供路径并使用csv库(或只使用pandas)

是的,你可以自动化电子邮件到服务器的过程,请记住你需要使用像'os'这样的库。

此外,由于python社区,有很多有用的信息。对于初学者,您可以使用以下链接作为参考:

Import multiple csv files into pandas and concatenate into one DataFrame

如果您还需要使用python从Excel文件导入数据,pandas也可以这样做(或者您可以查看xlrd库)。