Python + Twisted + sqlanydb = abort()

时间:2011-04-26 12:39:31

标签: python twisted sqlanywhere

我通过官方sqlanydb驱动程序将Twisted 11与SQLAnywhere 12一起使用。

一般来说,它运作正常。

但偶尔应用程序会因第一次查询中止而崩溃。

如果一个查询有效,所有以下工作也都有效。但是我的测试很少通过。

用and strace进行开发很糟糕并没有告诉我任何信息。有时它会在select()内部崩溃,有时在mmap()...

中崩溃

我正在运行64位Linux并在本地运行Sybase作为dbeng12进行测试。

是否有人成功使用这些组件?有什么建议如何解决?我之前使用过sqlanydb和Django,它从未崩溃过。

使用打印,我发现它在DeferredList内部崩溃,重要的代码基本上如下:

class WhoisDb(object):
    # ... shortened ...
    def _get_contacts(self, dom):
        if not dom:
            self.d.errback(UnknownDomain(self._get_limit()))
            return
        self.dom = Domain._make(dom[0])

        dl = defer.DeferredList( [
            self.dbpool.runQuery(CON_SQL, (self.dom.dom_owner,)),
            self.dbpool.runQuery(CON_SQL, (self.dom.dom_admin,)),
            self.dbpool.runQuery(CON_SQL, (self.dom.dom_tech,)),
            self.dbpool.runQuery(
                LAST_UPDATE_SQL,
                ( self.dom.domName, )), ] ).addCallback(self._fmt_string)

    def get_whois(self, domain):
        self.d = defer.Deferred()
        if not self._check_limit():
            self.d.errback(LimitExceeded(MAX_PER_HOUR))
        elif not RE_ALLOWED_TLDS.match(domain):
            self.d.errback(UnknownDomain(self._get_limit()))
        else: 
            self.dbpool.runQuery(
                    'select ' + DOM_FIELDS + ' from domains where '
                    'domain = ? or domain_idn = ?',
                    ( domain, domain, )) \
                            .addCallback(self._get_contacts)

        return self.d

如果崩溃,则不会调用_fmt_string()。

在gdb内部,它是一个简单的SIGSEV:

(gdb) run ~/.virtualenvs/whois/bin/trial test.test_protocol.ProtocolTestCase.test_correct_domain
Starting program: /home/hynek/.virtualenvs/whois/bin/python ~/.virtualenvs/whois/bin/trial test.test_protocol.ProtocolTestCase.test_correct_domain
[Thread debugging using libthread_db enabled]
test.test_protocol
  ProtocolTestCase
    test_correct_domain ... [New Thread 0x7ffff311a700 (LWP 6685)]
[New Thread 0x7ffff3099700 (LWP 6686)]
[New Thread 0x7ffff27dc700 (LWP 6723)]
[New Thread 0x7ffff1fdb700 (LWP 6724)]
[New Thread 0x7ffff17da700 (LWP 6725)]
[New Thread 0x7ffff0fd9700 (LWP 6729)]

Program received signal SIGSEGV, Segmentation fault.
[Switching to Thread 0x7ffff1fdb700 (LWP 6724)]
0x00007ffff4d4167c in ?? () from /opt/sqlanywhere12/lib64/libdbcapi_r.so

2 个答案:

答案 0 :(得分:2)

看起来您的数据库库不是线程安全的。为了使其成为稳定的连接,请执行以下操作:

self.dbpool = ConnectionPool(..., cp_min=1, cp_max=1)

这会将最大并发数设置为1,并且ThreadPool将限制为1个线程,这意味着不会同时运行任何查询。这应该会阻止你的非线程安全库导致任何戏剧性,同时仍然在线程中运行查询而不阻塞主循环。

答案 1 :(得分:1)

是的,你的延期列表看起来不会做你想要的。每个runQuery都将在adbapi线程池中运行,因此无法保证这些查询的排序。 “LAST_UPDATE_SQL”是DeferredList中的最后一件事并不一定会让它最后发生。延迟列表中的查询是否应该是单个事务的一部分?

我不知道究竟是什么SQL查询在这里我假设有时为LAST_UPDATE_SQL设置了一个事务,有时它还没有根据runQuery最终实际运行的顺序进行设置。

以下是使用adbapi.runInteraction使用单个adbapi线程替换延迟列表的方法。我不是100%相信这会解决你的问题,但我认为这是编写你试图做的数据库交互的正确方法。

class WhoisDb(object):
    # ... shortened ...
    def _get_contacts(self, dom):
        if not dom:
            self.d.errback(UnknownDomain(self._get_limit()))
            return
        self.dom = Domain._make(dom[0])

        d = self.dbpool.runInteraction(
                 self._get_stuff_from_db
            )
        d.addCallback(self._fmt_string)
        d.addErrback(self._fmt_string) # don't forget to add an errback!
        return d

    def _get_stuff_from_db(self, cursor):
        cursor.execute(CON_SQL, (self.dom.dom_owner,)),
        cursor.execute(CON_SQL, (self.dom.dom_admin,)),
        cursor.execute(CON_SQL, (self.dom.dom_tech,)),
        cursor.execute(
            LAST_UPDATE_SQL,
            ( self.dom.domName, )), ] )
        return cursor.fetchall() # or whatever you need to return obviously