Question

我目前使用Vim来阅读SO's data dump。但是，当我向下滚动几行时，我的Macbook速度变慢了。这表明我必须有更有效的方法来读取数据。

我对MySQL知之甚少。文件位于.xml -format中。目前在.xml中读取数据相当困难。将xml文件转换为MySQL然后读取文件可能更有效。我只知道MS db -tool用于此类操作。但是，我也想知道另一种工具。

问题

将.xml解析为SQL -queries，以便MySQL了解它。 我们需要知道数据的数据结构。
在MySQL中运行数据
找到一些类似于MS db -tool的工具，通过它我们可以有效地读取数据

您如何有效地阅读SO的数据转储？

-

[编辑]

如何运行523 SQL queries在终端中创建数据库？ 我目前在文本文件中有命令。
如何“切换到[恢复模式]到数据库中的简单恢复模式？

Answer 1

我制作了我的第一个python程序来读取它们并输出用于mysql的SQL插入语句（它很难看但很有效）。您需要先手动创建表。

import xml.sax.handler
import xml.sax
import sys
class SOHandler(xml.sax.handler.ContentHandler):
        def __init__(self):
                self.errParse = 0

        def startElement(self, name, attributes):
                if name != "row":
                        self.table = name;
                        self.outFile = open(name+".sql","w")
                        self.errfile = open(name+".err","w")
                else:
                        skip = 0
                        currentRow = u"insert into "+self.table+"("
                        for attr in attributes.keys():
                                currentRow += str(attr) + ","
                        currentRow = currentRow[:-1]
                        currentRow += u") values ("
                        for attr in attributes.keys():
                                try:
                                        currentRow += u'"{0}",'.format(attributes[attr].replace('\\','\\\\').replace('"', '\\"').replace("'", "\\'"))
                                except UnicodeEncodeError:
                                        self.errParse += 1;
                                        skip = 1;
                                        self.errfile.write(currentRow)
                        if skip != 1:
                                currentRow = currentRow[:-1]
                                currentRow += u");"
                                #print len(attributes.keys())
                                self.outFile.write(currentRow.encode("utf-8"))
                                self.outFile.write("\n")
                                self.outFile.flush()
                                print currentRow.encode("utf-8");

        def characters(self, data):
                pass

        def endElement(self, name):
                pass

if len(sys.argv) < 2:
        print "Give me an xml file argument!"
        sys.exit(1)

parser = xml.sax.make_parser()
handler = SOHandler()
parser.setContentHandler(handler)
parser.parse(sys.argv[1])
print handler.errParse

有效地读取SO的数据转储

1 个答案: